AccelEval 基准实测:AI 把 CPU 代码改成 GPU 能快 161 倍
新智元 · wechat · 2026-10-01
研究团队推出 AccelEval 基准(已被 NeurIPS 2026 接收),评测大模型能否把能算对但跑得慢的 CPU 程序改写成结果正确、端到端更快的 GPU 实现。不同于 KernelBench 等聚焦深度学习算子的基准,AccelEval 覆盖科学仿真、金融计算、图算法、运筹优化等 6 个领域、42 项任务和 3 种输入规模,强调核心计算提速不等于整体变快(数据搬运与收尾开销可能吃掉收益)。
在 H200 上的评测显示,Gemini 3.1 Pro 在中规模通过验证的任务上相对单线程 CPU 参考实现取得 71.2 倍几何平均加速,大规模为 161.5 倍;但相对人工 CUDA 参考实现,模型最快正确方案的跨任务几何平均仅约 0.75。研究还整理了 43 类 CUDA 优化策略,发现内核融合、分块等结构性优化与高性能强相关,且任务特定策略指导带来 1.78× 提升,明显高于通用建议的 1.18×。
「Infra」频道最新
- 英伟达丑闻未完:黄仁勋的千亿美元权力网成焦点 — The Verge AI · 2026-11-16
- 芯片业铁律:出货量说了算,Intel 输在丢了需求 — TheKanter · 2026-11-16
- 台北101点亮「台湾❤️Jensen」,科技界集体声援黄仁勋 — liu_mingyu · 2026-11-16
- Nous 高管提醒:勿用 GPT 900k 变体,272k 后加收费用 — Teknium · 2026-11-16
- CUDA 矩阵乘法优化实战:从朴素实现干到 cuBLAS 93.7% 性能 — RisingSayak · 2026-11-16
- iPhone 上跑通 120B 模型:改 llama.cpp 从闪存流式加载 MoE 权重 — Chance-Resource-4970 · 2026-11-16