Inkling-2-Mini 单卡本地跑出 KernelBench-Mega 10.04x,超越多家旗舰
ziqiao_ma · x · 2026-11-23
Inkling-2-Mini 在单张 RTX PRO 6000 上本地运行,在 KernelBench-Mega(02kimilineardecode,RTX PRO 6000 Blackwell 环境重测)拿到 10.04x 加速(约 1650 tok/s),超过 Grok 4.7(6.34x)、GPT-6.1-Sol(4.96x)、DeepSeek-V4-Flash(4.32x)和 Claude Sonnet 5(3.92x);DeepSeek-V4.1-Flash、Kimi K3.1-Pro、Qwen3.8-Max、GLM-5.2 等则未能在该卡上通过。完整榜单中 Claude Opus 5.5 以 35.34x 居首。
作者贴出的 2.9 小时轨迹(686k 输出 token)亮点:
- 写出单次 launch 的 188-CTA 持久化 Triton megakernel(1119 行),融合 3 个 KDA 块、1 个 MLA 块和 4 个 MoE 块,用全局 release/acquire 原子屏障实现约 0.75 微秒同步,inter-op 内核启动为零
- 首个可用的融合内核只有 3.12x,模型主动故意跑一个去掉屏障的坏 build 来隔离同步开销,再逐个跳过各阶段做二分定位
- 使用 MLA absorb 技巧,避免实际物化 [ctx, 8192] 的 BF16 矩阵,并将 softmax 与 A、o 融合
「编程与Agent」频道最新
- Visa 推出 CLI 代理钱包:AI 智能体刷 Visa 卡接任务赚 OUSD — Scobleizer · 2026-11-23
- TLA+ 使用者必读:孙医生与徐天逸推荐重读 Lamport 的 TLA 原始论文 — tianyin_xu · 2026-11-23
- 开发者弃用 Mermaid 图,在 agent 工具中改用航班说明式表格布局 — thesephist · 2026-11-23
- Claude Code + Obsidian 五分钟搭出越用越聪明的第二大脑 — dr_cintas · 2026-11-23
- LinkedIn 12 月收紧数据导出:人脉邮箱职位将不再包含 — thedealdirector · 2026-11-23
- 开发者演示 agentic 模式:一句指令自动找纽约本地活动 — thejaan · 2026-11-23