Kimi K3.1 Pro 发布首日晒 SemiAnalysis 实测：MI355X 上每美元吐 4500 万 token
AnushElangovan · x · 2026-11-07
NVIDIA 的 Anush Elangovan 发布「Day 0: K3.1 Pro」，配图为 SemiAnalysis InferenceX 对 Kimi K3.1 Pro 的推理 TCO 实测曲线（更新于 2026-11-06）。
图表要点：
- 在大规模超算级自持场景下，按「每 1 美元 TCO 总产出 token 数 vs P90 交互速度」对比，AMD MI355X（vLLM）表现最强：低交互速度下可达约 45M tok/$，TCO 仅 $1.5/chip/hr；
- NVIDIA B300（vLLM）TCO 为 $2.26/chip/hr，B200 为 $1.73/chip/hr，B200 在低速度区间每美元 token 产出明显落后；
- 高交互速度（P90 约 220 tok/s/user）下，各芯片收敛到约 4-5M tok/$。
图片实质是 K3.1 Pro 在 AMD 与 NVIDIA 旗舰卡上的性价比对比，MI355X 在推理经济性上胜出是最大看点。
「Infra」频道最新
- Intel CEO:智能体负载推动服务器 CPU 市场五年增至 2000 亿美元 — Beth_Kindig · 2026-11-07
- 玩家晒个人 AI Agent 极致配置：本地 Arduino 板 40 TOPS 加三朵云打通 — unixterminal · 2026-11-07
- 四大巨头 AI 资本开支涨 5-8 倍，苹果反降 20% 成 Mag7 唯一跑赢纳指者 — a16z · 2026-11-07
- 研究者预判：抽取与摘要负载够大，推理服务将出现 prefill 主导专用端点 — sh_reya · 2026-11-07
- SurrealDB 4 发布：主打 agent 专用数据库，兼容 PostgreSQL/MySQL — mattturck · 2026-11-07
- 印度宣布 24 个月内造出国产 GPU，分析指 EUV 才是真门槛 — SumitGup · 2026-11-07