vLLM 团队实测编码 Agent 写 GPU 内核,K3 提速至 1.73 倍
vLLM 团队发布技术博文,实测编码 Agent 能否编写生产级 GPU 内核,并借助 agent 辅助为 Kimi K3 构建 NVIDIA GB300 上基于统一 CuTe DSL 的解码路径。结果显示 16 卡 GB300 配置下吞吐达 842 tokens/s,性能达到 stock vLLM 的 1.73 倍,展示了 agent 参与底层高性能内核开发的可行性。
2026-10-20 ~ 2026-10-20 · 2 条相关
- vLLM 团队实测 agent 写 GPU 内核:Kimi K3 助力达 stock vLLM 1.73 倍 — lmoroney · 2026-10-20
- vLLM 团队用编码 Agent 优化 Kimi K3:GB300 上跑出 842 tokens/s — lmoroney · 2026-10-20