爆料:新架构下 Cerebras 跑 K3 级模型或只需 10 片晶圆
bookwormengr · x · 2026-10-23
引用 Joe Fioti 的「每副本需 60+ 片晶圆」感慨,爆料账号 Arindam 估算:K3 是 2.8 万亿参数、1.5TB 存储的巨型模型,Cerebras 确实需要约 60 片晶圆,但新架构可把数量砍到 10 片左右,总硬件成本接近一台 NVL72。
- 适合赛博/设计/语音场景的类 Mythos 模型多在 800B 级(GLM 5.3、DeepSeek v4.1 flash)
- DeepSeek v4.1 flash 只需 500B 权重上晶圆,192B 嵌入可放片外,晶圆需求降到 10 片以内
- DeepSeek 架构的 prefill 只需一半层、KV 也小,Cerebras 有望既做 prefill(其此前回避的环节)又用更大 micro-batch 做 decode
作者认为 10 片晶圆即可高效运行,适合 Cyber、芯片设计与语音用例。注:未证实爆料与个人推算。
「Infra」频道最新
- Claude 模型登陆 Google Cloud:Anthropic 托管版正式可用 — claudeai · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练,较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- Perplexity 联手 AMD 推便携 AI 主机,本地跑 27B 模型做实时研究 — AravSrinivas · 2026-10-23
- Liquid AI 发布 RIPL 推理引擎:端到端响应快至 50ms 内 — JosephJacks_ · 2026-10-23
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋拆解 NVIDIA Vera Rubin 智能体系统四大组件 — rohanpaul_ai · 2026-10-23