NVIDIA 工程师晒图：AI 辅助让 CUDA 优化速度一年内翻数倍
SumitGup · x · 2026-10-21
SemiAnalysis 转发现场消息：NVIDIA 工程师在 PyTorch 大会上表示，用前沿 AI 模型优化 CUDA 软件的速度正在快速提升。配套幻灯片（SemiAnalysis InferenceX 与 AgentX 基准）显示：
- 2025年10月至2026年8月：专家人工优化带来 5 倍提升（耗时约 1 年）
- 2026年9月至10月：AI 辅助优化带来 2 倍提升（仅 1 个月）
- 2026年10月：AI 编排 + MegaKernels 再带来 1.5 倍提升（约 1 周）
基准覆盖 DeepSeek V4 Pro 与 Kimi K3 在 GB300 NVL72 上的每 GPU/每兆瓦 token 吞吐量，趋势是 AI 正在大幅压缩底层软件优化的迭代周期。
「Infra」频道最新
- NVIDIA 推出 FP4 本地化检查点：Qwen 与 GLM 模型省显存跑 agent — NVIDIAAI · 2026-10-21
- 曝小团队后训练 Qwen3 27B,GQA 转 MLA 省 8.4 倍 KV 缓存 — ChrisGPT · 2026-10-21
- EAGLE-4 投机解码实测：agentic 编码场景提速最高 5.21 倍 — zhyncs42 · 2026-10-21
- EAGLE-4 发布：投机解码冲上 961.6 tokens/s，代码与仓库开源 — zhyncs42 · 2026-10-21
- REAX 引擎竞赛开放一晚，矿工将决策模型提速近 3 倍 — airesearch12 · 2026-10-21
- 马斯克称算力明年或六个月回本，分析师质疑 neocloud 融资难 — firstadopter · 2026-10-21