Cerebras 推分解式推理:GPU 预填加晶圆芯片解码
Cerebras 官方宣布推出分解式推理部署,将晶圆级引擎 WSE 与标准 GPU 组合:GPU 负责处理 prompt 预填并计算 KV cache,再把预计算好的 KV cache 交给 WSE 专职解码生成 token。官方称该架构下每兆瓦电力可产出 5 倍的 token,以此提升大规模推理部署的效率与能效。
2026-11-18 ~ 2026-11-18 · 2 条相关
- Cerebras 推分离式推理:GPU 算 KV cache,WSE 专职生成 token — elemental-mind · 2026-11-18
- Cerebras 发布分解式推理:GPU 管预填+晶圆芯片管解码,每兆瓦产出 5 倍 token — AccBalanced · 2026-11-18