Thinking Machines 发布循环 transformer Inkling 2 Mini,26B 参数问鼎小模型编码榜
SonglinYang4 · x · 2026-11-21
Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,核心创新是「循环 transformer」:对每个 token 把模型中间层跑三遍,让模型不写出推理过程也能「想得更久」。
关键数据
- MoE 架构,总参数 26.4B,激活 3.4B,计入循环后每 token 权重激活 5.4B
- 在 DeepSWE v1.1(48.2%)和 Vals Index v2.2(46.5%)上领先所有 100B 以下开源权重模型
- 可在笔记本上运行,解码速度也快于同性能模型
安全视角的发现(基于同步发布的变循环研究模型)
- 不写 CoT 的情况下,时间视野从单次循环的 16 秒提升到三次循环的 37 秒
- 串行推理基准上的成绩在训练所用的三循环之外,持续提升到十次循环
- 循环让模型「内隐推理」,不落文字,这对通过阅读 CoT 监督模型行为的可监控性(monitorability)有直接影响——这也是他们开放权重、邀请 AI 安全社区研究循环对 CoT 可监控性影响的原因
「漫话AGI」频道最新
- 同一天:有人联合 Claude 声称证明黎曼猜想,又有团队发布纯人力证明 — Dr_Atoosa · 2026-11-21
- 研究员预言:数学家将像研究天体模拟一样研究 Lean 证明 — mjuric · 2026-11-21
- METR:AI 研发相关能力快速提升,且越来越难测量 — dfrsrchtwts · 2026-11-21
- 程序员AI适应建议一路退守,borretti长文吁认真对待AI — zetalyrae · 2026-11-21
- Pichai 发梗图:黎曼猜想被证明,欧拉高斯天堂围观 — sundarpichai · 2026-11-21
- 博主观点:阻止奇点的路径是切断资本——无资本则无算力无 AI — JensHonack · 2026-11-21