Groq
全球最快的推理速度，开源模型免费层
2026/08/28 已核实
前往官方平台 ↗
额度速览
Llama / Qwen 等开源模型
免费层每日请求额度 + RPM/TPM 限额，个人开发测试够用
领取步骤
- 1 打开 console.groq.com 注册（Google 账号可直接登录）
- 2 左侧「API Keys」→ Create API Key
- 3 接口兼容 OpenAI 格式，base_url 换成 Groq 的即可
- 4 注意免费层的速率限制，控制并发
怎么用
接口兼容 OpenAI 格式。base_url：https://api.groq.com/openai/v1
示例模型：llama-3.3-70b-versatile（可用模型以官方列表为准）
cURL
curl https://api.groq.com/openai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{"role": "user", "content": "你好，介绍一下你自己"}]
}'Python（openai SDK）
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ["API_KEY"],
base_url="https://api.groq.com/openai/v1",
)
resp = client.chat.completions.create(
model="llama-3.3-70b-versatile",
messages=[{"role": "user", "content": "你好，介绍一下你自己"}],
)
print(resp.choices[0].message.content)喜欢图形界面？看教程《领取第一个免费 Key 并接入 Cherry Studio》。 API 文档：https://console.groq.com/docs ↗
⚠️ 坑点提醒
- 免费层有 RPM/TPM 和每日上限，不适合批量任务
- 国内直连不稳定，需要良好的网络条件
- 支持的模型上下线较快，调用前看模型列表