OpenAI 承诺的 Cerebras 750 TPS 推理月底将到期
imjustnewatai · x · 2026-07-31
OpenAI 此前承诺在 7 月底前推出基于 Cerebras 的极速推理,支持高达 750 TPS。随着 7 月最后一天到来,社区正密切关注 Cerebras 是否会如期发布该功能。
所属事件:OpenAI 模型将登陆 Cerebras 实现 750 tokens/s 推理(3 条相关)→
「Infra」频道最新
- NVIDIA RTX Spark 正式发布,主打 Windows PC 本地跑 AI — ostrisai · 2026-10-16
- SkyRL 为 Beam 提供首日 RL 支持,LoRA 解码吞吐提升 62% — vllm_project · 2026-10-16
- DFlash2 为 Beam 解码提速最高 3.03 倍 — vllm_project · 2026-10-16
- Beam 长上下文服务优化:GB200 前向最快降 20% — vllm_project · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16
- 单卡 24GB 跑 Gemma 4 31B QAT:4090 上 46 tok/s,加草稿模型达 80 — Subject_Poet_3861 · 2026-10-16