俄罗斯初创 Mostik 让大模型直连隐藏状态，成本降至 1/20
机器之心 · wechat · 2026-09-06
无名初创 Mostik 在 ARC-AGI-3 Kaggle 竞赛上一度冲到榜首，团队仅用四个月，含 12 位博士和菲尔兹奖得主 Stanislav Smirnov，参赛细节保密。
核心思路：模型间直接交换隐藏状态
- 现有多智能体系统靠文字传递，模型每生成一个 token 只输出约 17 比特，而内部状态约 2MB——像「在千维空间思考，只能通过钥匙孔说话」。
- Mostik 训练一座「桥」（唯一需训练的部分，两侧模型全部冻结），把 GLM-5.2（7530 亿参数）的隐藏状态翻译给 Qwen-3.5（40 亿参数），由小模型负责生成。
效果
- 混合系统成本仅为完整 GLM 的 1/20，准确率提升约 25%，小模型补上与大模型 50% 的能力差距；高难任务最高翻倍。
- 隐藏状态交接全面优于文字交接，最高领先 10 个百分点，且大模型交出越早优势越大。
延伸方向
- 可解释性新入口：对照发送/翻译/接收三方状态并做干预实验，可验证因果。
- 下一步把通道放进训练：蒸馏时教师实时指导学生、以及「专业化外挂」小模块，最终押注多模型协作的第三条路线。
结果均来自 Mostik 自己披露，复现细节未公开，通用性待外部验证。
所属事件:创企 Mostik 以潜空间直连方案登顶 ARC-AGI 3 榜单(3 条相关)→
「模型」频道最新
- MiniMax 开源 M3.1 Flash:428B 总参数、每 token 激活 23B — victormustar · 2026-10-23
- 开源社区反击「去审查模型制造漏洞论」：防御性审计发现漏洞不背锅 — max_paperclips · 2026-10-23
- Fable 用量限制并未取消,只是移动端 App 更新了用量重置显示 — imjustnewatai · 2026-10-23
- Claude 全代码生成 11 分钟末日短片:AI 不反抗,只是等待 — ZeroStateReflex · 2026-10-23
- Gemini 竟读不到自己的 Personal Instructions,用户反复开关设置无效 — Connect_Reporter_799 · 2026-10-23
- 扩散语言模型的偏见排名随采样配置改变,去偏后仍不稳定 — Bollegala · 2026-10-23