Cerebras与Blackwell打造商用AFD架构,3T参数模型推理提速14倍
teortaxesTex · x · 2026-08-14
Cerebras 与 Nvidia Blackwell 结合的 AFD (Attention FFN Disaggregation) 架构开始投入商用。该系统通过硬件分工加速超大模型推理:由 Blackwell 负责注意力机制和预填充,而 Cerebras 芯片专门执行前馈网络(FFN)。
该方案已成功应用于超过 3 万亿参数的模型(如 OpenAI 预览的 GPT-5.6 Sol),实现了最高 14 倍的推理速度提升。
所属事件:Cerebras与Blackwell商用AFD架构(2 条相关)→
「Infra」频道最新
- 黄仁勋披露:每 GPU 年收约数千美元软件费,成 NVIDIA 重要收入线 — rohanpaul_ai · 2026-10-16
- 开发者亲测:几万块 V100 本地部署 DeepSeek,不如直接订阅 Claude — lxfater · 2026-10-16
- 公开喊话 neocloud:我愿买 3 万美元 GPU 算力,给个折扣吗 — Sauers_ · 2026-10-16
- 拿到新硬件就开跑:垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16
- AI 推理正走向异构分解:Prefill 与 Decode 分用专用芯片 — AccBalanced · 2026-10-16