Cerebras 推分解式推理:GPU 预填加晶圆芯片解码

Cerebras 官方宣布推出分解式推理部署,将晶圆级引擎 WSE 与标准 GPU 组合:GPU 负责处理 prompt 预填并计算 KV cache,再把预计算好的 KV cache 交给 WSE 专职解码生成 token。官方称该架构下每兆瓦电力可产出 5 倍的 token,以此提升大规模推理部署的效率与能效。

2026-11-18 ~ 2026-11-18 · 2 条相关