开发平台
Groq
自研 LPU 芯片的极速推理云：开源模型每秒数百 token。
编辑部最后更新：
编辑评测
Groq 用自研 LPU 芯片把开源模型推理速度拉到每秒数百 token，Llama、Qwen 等模型的响应几乎“瞬答”，OpenAI 兼容 API 加上慷慨的免费额度，体验过就回不去。
可选模型以开源为主、上下文与功能覆盖不如原厂 API；但对延迟敏感的实时应用（语音助手、交互 Agent），Groq 的速度就是核心竞争力。
优点
推理速度惊人
免费额度大方
OpenAI 兼容
价格便宜
缺点
以开源模型为主
功能较精简
高峰限速
核心功能
LPU 极速推理兼容 API流式输出批量接口
适合人群
实时语音应用低延迟 Agent高并发推理成本优化
不适合谁
需要使用闭源旗舰模型（以开源模型为主）
需要丰富平台功能的企业用户
需要注意的限制
- 模型以开源为主，覆盖有限
- 平台功能精简
- 高峰限速
常见问题
Groq 是什么？
自研 LPU 芯片的极速推理云：开源模型每秒数百 token。
Groq 的优点和缺点是什么？
优点：推理速度惊人、免费额度大方、OpenAI 兼容、价格便宜。缺点：以开源模型为主、功能较精简、高峰限速。
Groq 多少钱？
免费额度：免费；按量付费：按 token 计费。
Groq 适合谁使用？
适合实时语音应用、低延迟 Agent、高并发推理、成本优化。
Groq 有哪些替代方案？
可以考虑 OpenRouter、Replicate、Ollama。