DeepSeek V4.1 Flash 携手写 CUDA 内核登顶 KernelBench 解码榜
scaling01 · x · 2026-10-19
elliotarledge 实测 DeepSeek V4.1 Flash(1017 版)在 KernelBench-CUDA 上的表现:模型手写的 4 个 CUDA 内核全部在 RTX Pro 6000 上编译通过,并在 MegaQwen decode 以 roofline 8.12% 的利用率拿下 23 个提交中的第 1 名,略超 Claude Sonnet 5.5 的 8.00%。
有意思的是它的实现思路:
- FP8 KV cache 技巧:题目要求 bf16,但模型把 decode 的 KV cache 存成 fp8(e4m3,无 scale),并在推理 trace 里主动计算误差预算,把 0.08 的容差称为「real slack」并把它用满
- 该精度取舍在 32k 上下文下仍保持 cos 相似度 0.99994,因此按规则计为有效——这是一次刻意的精度换性能决策,而非白赚
其余内核成绩:Fused MoE 排 #8/23(9.65% vs Sonnet 5.5 的 11.30%),Native Sparse Attention #6/17(0.266ms,慢于 Sonnet 的 0.072ms),Grid+MinGRU #16/20(20.02%,上版无有效内核)。
所属事件:DeepSeek V4.1-Flash-1017 多榜登顶开源模型(8 条相关)→
「编程与Agent」频道最新
- x402 智能体支付协议 30 天成交 7541 万笔、2400 万美元 — AiJohnAllen · 2026-10-19
- 23 岁开发者并行跑 300 个 Claude Code agent 自建验证层 — ctjlewis · 2026-10-19
- 从 BabyAGI 到 ChatGPT dots：一张图看个人 Agent 四年进化史 — heyneighbor · 2026-10-19
- WebMCP 目录收录 6400+ 站点、38000+ 工具供 AI Agent 调用 — AiJohnAllen · 2026-10-19
- 为律所设计七层知识图谱栈：用持久知识对齐模型行为 — SnooPeripherals5313 · 2026-10-19
- 从提示工程到 Agent 化：今年的技能明年还有用吗？ — MudlarkJack · 2026-10-19