Kimi K3 跑进 AMD MI355X,节点吞吐达到 952 tok/s
AccBalanced · x · 2026-08-04
引用内容称,团队已让 Kimi K3 跑在 AMD MI355X 上,达到 952 tok/s/node 和 118 tok/s 的单流速度。
帖子进一步声称,这套方案在节点聚合吞吐上达到 B200 的 3.8 倍,单流解码达到 1.3 倍,并且在性能/价格比上优于 B300,分别为 48 vs 33 tok/s/$。更多细节放在回复里。
所属事件:AMD MI355X跑Kimi K3:吞吐达B200近4倍,成本降71%(6 条相关)→
「Infra」频道最新
- 报告预测 DRAM 与 NAND 存储芯片价格将在 2027 年触顶 — SumitGup · 2026-08-04
- 硅悬键造出原子级逻辑电路,量子线态工程新论文发布 — teortaxesTex · 2026-08-04
- 缓存命中率仅差 5%,Token 成本为何暴增 3-4 倍? — Xianbao_QIAN · 2026-08-04
- 生产级 LLM 应用必备:AI Gateway 核心功能探讨 — Fun-Beginning5005 · 2026-08-04
- RTX 3060 12G 实测:17 分钟本地生成 10 秒竖屏视频 — merica420_69 · 2026-08-04
- 腾讯 TEngineDB-V 把大规模向量检索做成 OLAP 原生能力 — _reachsumit · 2026-08-04