vLLM 实测 TPUv7 达 700 tok/s，比英伟达 GB200 NVL72 快 56%
woosuk_k · x · 2026-09-24
SemiAnalysis 转发称，vLLM 维护者最新测试显示，通过 Megakernel 优化，TPUv7 在运行 Kimi K3 时可达每用户 700 tok/s 的推理速度，比英伟达 GB200 NVL72 高出 56%。SemiAnalysis 认为 TPU 软件生态的对外开放正在全速推进，这一进展值得持续关注。
所属事件:TPUv7 推理实测破 700 tok/s，快于英伟达 GB200 近六成(2 条相关)→
「Infra」频道最新
- 黄仁勋:预计英伟达明年芯片销量将翻倍 — Beth_Kindig · 2026-09-24
- 有人用 Codex 10 分钟在旧游戏本上跑通 Qwen 加 Hermes Agent — markjeffrey · 2026-09-24
- Chris Lattner 出任高通 AI 软件 EVP,Modular 收购后首登骁龙峰会 — samcharrington · 2026-09-24
- MongoDB 3.0 大转型：十年销售驱动模式正被推倒重来 — thedealdirector · 2026-09-24
- rauchg 拆解成功 Agent 三要素:大脑、双手与文件,云端需解耦 — cramforce · 2026-09-24
- Meta 承诺 120 亿美元算力，Nebius 合同隐藏 150 亿上行空间 — AccBalanced · 2026-09-24