博客深挖 26B 循环 Transformer:一次向量减法让第四遍准确率翻倍

pandeyparul · x · 2026-11-22

DrHB 发布长文,拆解 Thinking Machines 的两个 26.4B 开源 MoE 循环 Transformer(Inkling 2 Mini 固定三遍、varloop 一到五遍)内部实际在算什么,并给出五项发现:

文章还介绍了循环构建方式与逐遍分析方法的细节,是理解自适应计算深度机制的高质量一手实验复盘。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →