Kimi K3 约 3 万亿参数铺满 59 片 WSE-3 晶圆,权重常驻仅传激活
petrusenko_max · x · 2026-10-26
Cerebras 展示了用 59 片 WSE-3T 晶圆级芯片部署 Moonshot 约 3 万亿参数的 Kimi K3 模型的方案:每片晶圆承载两层线性注意力层(35 片晶圆)或一层稠密层(24 片晶圆),权重采用 4-bit 存储,剩余 SRAM 用于 8-bit KV cache。关键设计是权重常驻晶圆,晶圆间只传输激活值,避免了权重搬运的带宽瓶颈。
「Infra」频道最新
- vLLM 跑 DeepSeek v4.1:解码速度比 SGLang 快 10-20% — morgymcg · 2026-10-26
- a16z:AI 建设潮遭遇熟练工荒,跳槽制造业工人薪资涨幅达 10% — a16z · 2026-10-26
- 599 美元 Mac Mini 被当廉价台式机用了两年,其实可做本地 AI 服务器 — hey_abusiddik · 2026-10-26
- Compound 用 Rust 重写 Excel/PPT/Word 引擎,替代 LibreOffice 服务 agent — peterjliu · 2026-10-26
- 联想扩充企业 AI 库:一周部署、满载时 token 成本最高降 70% — shashib · 2026-10-26
- Fireworks 估值一年从 40 亿冲向 400 亿美元,推理云的生意经 — FinanceYF5 · 2026-10-26