爆料:CS-4 推理 GPT-5.6-Sol 速度达 1300 token/s
scaling01 · x · 2026-08-19
有消息称,Cerebras 新一代 CS-4 系统在运行 GPT-5.6-Sol 模型时,推理速度达到约 1300 token/s。此外,CS-4 相比前代速度提升最高 2 倍,每兆瓦吞吐量提升最高 10 倍。
所属事件:Cerebras 发布 CS-4 晶圆级加速器,宣称推理快 30 倍(11 条相关)→
「Infra」频道最新
- NVIDIA H100 全局负载并发响应性能实测 — ssh4net · 2026-08-19
- HBF 替代 SSD 做 KV 缓存被指会烧毁寿命 — zephyr_z9 · 2026-08-19
- 拟建核能初创公司,获超算厂商融资支持 — JacquesThibs · 2026-08-19
- 双 3090 跑 Qwen3.8-27B:vLLM 加 DFlash2 解码飙到 218 tok/s — xjx546 · 2026-08-19
- 系统设计金句:降级要准,健康要快 — round · 2026-08-19
- 基于 Qdrant Edge 的 Recall App:本地运行私有 AI 文档助手 — qdrant_engine · 2026-08-19