推理提供商文档
Groq
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
Groq
所有支持的 Groq 模型都可以在这里找到
Groq 专注于高速 AI 推理。其突破性的 LPU 技术为生成式 AI (GenAI) 模型提供了创纪录的性能和效率。通过专门为 AI 推理工作负载设计的定制芯片以及确定性的软件优先方法，Groq 消除了传统硬件的瓶颈，实现了具有可预测延迟和卓越吞吐量的实时 AI 应用，让开发者能够快速构建。
欲了解最新价格，请访问我们的价格页面。
资源
- 网站: https://groq.com/
- 文档: https://console.groq.com/docs
- 社区论坛: https://community.groq.com/
- X: @GroqInc
- LinkedIn: Groq
- YouTube: Groq
支持的任务
对话补全 (LLM)
了解更多关于聊天补全 (LLM) 的信息，请点击这里。
语言
客户端
提供商
import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="openai/gpt-oss-120b:groq",
messages=[
{
"role": "user",
"content": "What is the capital of France?"
}
],
)
print(completion.choices[0].message)对话补全 (VLM)
了解更多关于聊天补全 (VLM) 的信息，请点击这里。
语言
客户端
提供商
import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="meta-llama/Llama-4-Scout-17B-16E-Instruct:groq",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Describe this image in one sentence."
},
{
"type": "image_url",
"image_url": {
"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
}
}
]
}
],
)
print(completion.choices[0].message)