AMD MI355X单机部署Kimi K3,吞吐量达B200方案3.8倍,性价比超B300

机器之心 · wechat · 2026-08-04

机器之心报道,WaferAI在AMD MI355X上部署了Kimi K3模型,8张MI355X即可单机部署,而B200需16张跨两台服务器。实测总吞吐量952 Token/s,单用户生成速度118 Token/s,单节点吞吐量约为16卡B200方案的3.8倍,性价比超过B200和B300。ROCm支持良好,仅需少量兼容性修复。但TTFT初始较慢,通过补零优化注意力内核后显著改善。文章指出,大模型时代显存容量成为关键,AMD的大显存策略正成为系统优势。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →