ThinkingMachines 蒸馏小模型反超大杯，编程推理能力逆袭
量子位 · wechat · 2026-07-31
ThinkingMachines 发布了 Inkling-Small 模型（总参数 276B，激活 12B）。令人惊讶的是，该蒸馏模型在部分指标上反超了教师大模型：在 HLE 测试中得分为 31.6%（大模型为 29.7%），在 SWEBench Verified 上突破 80%（大模型为 77.6%）。
这种反超并非单纯依赖挑选有利基准，而是在同等算力成本下，小模型的 test-time compute 曲线始终高于大模型。官方揭示了反超的秘诀：利用时间差，调整了预训练数据配比，并叠加了以大模型为教师的在线策略蒸馏，最后额外进行了两周针对智能体编程的强化学习。
不过公告也指出了小模型的能力边界：在依赖参数规模的硬知识和事实性任务（如 SimpleQA Verified）上，大模型依然具有压倒性优势。
所属事件:Inkling-Small发布：276B参数12B激活，开源登顶ARC(48 条相关)→
「模型」频道最新
- 试用 Grok bot 却先收到 Cursor 欠费账单，两账户合并需先补款 — haydendevs · 2026-10-16
- TensorFold 1.0.12 发布：120B 视觉模型跑进 1-2 台 DGX Spark — HankYeomans · 2026-10-16
- 截图曝 Google 疑似未发布模型 Gemini 4 Argon，仅限 Ultra 和付费 Pro 用户 — il_-bro · 2026-10-16
- 谷歌:Gemini 4 Argon 进驻 Antigravity,代码提交增 35%、回滚降三分之一 — tekbog · 2026-10-16
- Gemini 分类器乱注入「无根据信念」警告，Opus 推理现场翻车 — liminal_bardo · 2026-10-16
- 密码学家 Matthew Green 烧掉一周 Pro 配额,GPT-6 仍未能分解 512 位 RSA — matthew_d_green · 2026-10-16