Cerebras发布CS-4:10万亿参数模型每秒生成1000 tokens
bookwormengr · x · 2026-08-19
Cerebras CTO Sean Lie在主题演讲中介绍了CS-4,解释了即使对于10万亿参数模型也能实现每秒1000 tokens的生成速度。CS-4相比CS-3规格大幅提升。
所属事件:Cerebras 发布 CS-4 晶圆级加速器,宣称推理快 30 倍(11 条相关)→
「Infra」频道最新
- M3 Max 上 4-bit 量化跑 Qwen 3.8:每秒 25 token 已完全可用 — AIandDesign · 2026-08-19
- 海光半年净利18亿,LG与英伟达推人形机器人 — 创业邦 · 2026-08-19
- 打造真正离线 AI:认知循环与本地化实践 — HotEstablishment7184 · 2026-08-19
- OpenAI 训练中约 20% 算力用于推理 — eliebakouch · 2026-08-19
- Vercel KMS发布:在函数中安全签名JWT,私钥永不暴露 — cramforce · 2026-08-19
- Ling-3.0-tiny 在 8GB 设备上跑通 128K 上下文 — Puzzleheaded_Base302 · 2026-08-19