Cerebras 联合 AMD 推出分离式推理,每兆瓦产出提升 5 倍
AccBalanced · x · 2026-11-22
Cerebras 宣布与 AMD 合作推出分离式推理(disaggregated inference),官方称是首个 GPU 与非 GPU 系统结合的生产级部署:AMD Instinct GPU 负责提示词处理(prefill),Cerebras CS-3 系统负责输出生成(decode)。生产数据显示每兆瓦 token 产出较纯 CS-3 方案提升 5 倍,同时保持 Cerebras 的极速生成。
- AWS、Fireworks AI、Gimlet Labs 和 General Compute 已获得访问权限
- 计划到 2027 年底在 Cerebras 推理云及合作伙伴部署中推广至数百兆瓦规模
- 配合新发布的 CS-4、扩产计划与规划的 700MW 数据中心容量,支撑 2027 年后的超快推理供给
「Infra」频道最新
- 日本超算富岳遭入侵:430 把 SSH 私钥被盗,233 把无密码保护 — kingslyj · 2026-11-22
- 免费工具 OMEN:按预算测 714 种配置帮你选跑 AI 的 GPU — Srijith_Legend · 2026-11-22
- 开发者解读:GTA VI 是 GPU 驱动软件渲染的终极胜利 — charles_irl · 2026-11-22
- Nvidia 循环融资链条曝光:出钱买卡再担保债务,寿险公司兜底 — MatthewChang · 2026-11-22
- Project Maya 新版让 Inkling 2 Mini 跑进 8GB 显卡,4090 实测 144 tok/s — teortaxesTex · 2026-11-22
- 前 Google TPU 工程师:砍前沿研究终将牺牲硬件业务 — jasondeanlee · 2026-11-22