vLLM 团队实测编码 Agent 写 GPU 内核,K3 提速至 1.73 倍

vLLM 团队发布技术博文,实测编码 Agent 能否编写生产级 GPU 内核,并借助 agent 辅助为 Kimi K3 构建 NVIDIA GB300 上基于统一 CuTe DSL 的解码路径。结果显示 16 卡 GB300 配置下吞吐达 842 tokens/s,性能达到 stock vLLM 的 1.73 倍,展示了 agent 参与底层高性能内核开发的可行性。

2026-10-20 ~ 2026-10-20 · 2 条相关