Kimi K3 跑在 AMD MI355X 上：吞吐超英伟达 B300 最高 86%
YouJiacheng · x · 2026-10-27
Lorenz Research 发布博客，称其在单节点 8×AMD MI355X 上对 Kimi K3 的 agentic 推理做了端到端优化（kernel、KV cache、通信、投机解码），并用 SemiAnalysis InferenceX AgentX 基准（重放真实编码 agent 会话）与 NVIDIA B300 对比：
- 不开投机解码吞吐 +38%（17,389 vs 12,566 tok/s/GPU，c80）；开投机解码（DSpark + ReplaySSM）后达 23,330 tok/s/GPU，领先 86%
- 结合 GPU 时价（MI355X $1.50 vs B300 $2.26/小时），每美元 token 数达 56.0M，为 B300 的 2.80 倍
- 模型质量几乎不变，通过 Kimi K3 Verifier 测试
核心结论：对特定模型和负载，瓶颈在软件而非芯片本身；模型级端到端优化收益巨大；AI 辅助工程正在帮助非 CUDA 平台缩小与 CUDA 的差距。
「Infra」频道最新
- YC 系推理初创 Isoquant：首月处理 1.2 万亿 token、1000+ 客户 — ycombinator · 2026-10-27
- 离网数据中心排放比电网高 60-80%,甲烷泄漏是元凶 — 2C_ornot2C · 2026-10-27
- Runware 把 FFmpeg 做成云端 API，$0.02/GB 秒起处理视频 — aziz4ai · 2026-10-27
- 谷歌高薪招聘反爬虫工程师,年薪最高 21.6 万美元防 LLM 抓取 — gaganghotra_ · 2026-10-27
- InfiX 联合 NVIDIA 推出 miniTE：原生 NVFP4 强化学习提速 1.39 倍 — InfiX-ai · 2026-10-27
- SemiAnalysis：Anthropic S-1 显示推理生意利润极佳，Neocloud 依旧赚钱 — johncoogan · 2026-10-27