Cerebras CS-4 探索新解耦架构：混合线性模型分层部署
AccBalanced · x · 2026-08-20
针对 Kimi K3 等混合线性模型提出了一种新的解耦方案：将 3/4 具有小常数状态的 Kimi Delta Attention (KDA) 层运行在 Cerebras CS-4 上，将 1/4 的全注意力层 (DeepSeek MLA 风格) 运行在 GPU/Trainium 上。利用 CS-4 与数据中心服务器间微秒级延迟的互联能力，可避免长上下文下的并发问题，实现超大模型的高效服务。
「Infra」频道最新
- 光网络成投资热点，NVIDIA 5000 亿数据中心金融动态 — BenBajarin · 2026-08-20
- 改用内置 GELU 函数，LLM 训练提速 19% — rasbt · 2026-08-20
- 被誉真正好点子：数据中心应成为引以为豪的市政设施 — aronchick · 2026-08-20
- Databricks 推 AI Extract，PDF 提取精度达 95% — jefrankle · 2026-08-20
- 动画实测辟谣：AI 数据中心用水量被严重夸大 — aronchick · 2026-08-20
- Virtuals：机器人数据无法像互联网那样随意抓取 — ai · 2026-08-20