优化 PCIe 小消息 all-reduce 内核，DeepSeek-V4.1 推理解码提速 12%
AlpinDale · x · 2026-10-23
开发者 AlpinDale 提交了针对 SM120 架构的推理优化 PR：新增面向 PCIe 互联 GPU 的小消息延迟优化 all-reduce 内核，并加入 DeepSeek-V4.1 的原生后端。在 4x RTX 6000 Pro Server GPUs 上实测，端到端解码速度提升 12%。该 PR 变更约 +12550/-935 行，包含配对 PCIe all-reduce 与分布式调度测试等改动。
所属事件:开发者优化 DeepSeek-V4.1 推理，PCIe 内核改进提速 12%(2 条相关)→
「Infra」频道最新
- llama.cpp 团队发布 Llama：Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23
- 海上油气平台拟改建为 AI 数据中心，烧闲置天然气供算力 — clemnt · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23
- 开源本地版 NotebookLM:SurfSense 全文档问答与文档编辑 Agent — FurtiveMirth · 2026-10-23
- PyTorch 新增 flex_gemm API:普通函数写 GEMM 融合 epilogue — tri_dao · 2026-10-23