Cerebras 用异构 prefill 池加速晶圆级引擎解码

Cerebras CEO Andrew Feldman 阐述了分离式推理（disaggregated inference）的收益，并介绍公司正在进一步实践：用异构 prefill 池为晶圆级引擎（wafer-scale engine）供给数据，使解码速度与 batch 规模解耦。这反映了 AI 推理正进入下一层优化阶段——通过编排异构硬件来榨取每美元的最大吞吐量。

2026-10-16 ~ 2026-10-16 · 2 条相关