无需改参数:Meta-cognitive Steering 用低维控制面操控 Kimi 2.6 认知状态
ceciletamura · x · 2026-10-14
arXiv 论文《Metacognitive Steering: Learning the Structure of Scientific Judgment》提出在推理时动态控制冻结前沿模型内部计算的方法,并在 Columbus-1 自主科研系统中验证。
核心内容:
- 动机:长程科学发现要求 agent 在探索、执行与批判性重估之间切换,但现有 LLM 主要用结果级信号训练,对这种「过程级科学判断」缺乏监督。
- 方法:从真实科研交互轨迹中收集对比性干预数据,发现 Kimi 2.6(万亿参数 MoE)内部存在协调的低维控制结构;残差分析、注意力子空间对齐、跨层 SVD 均收敛到一个跨关键层的中层控制面。
- 应用:「Metacognitive Steering」是一个推理时控制器,不修改模型参数,读取模型当前认知状态后动态组合层级干预,分别促进探索、程序性收敛或批判性重估;行为分析显示可产生更持续的探索、显式剪枝和证据响应式综合。
- 落地:在自主研究系统 Columbus-1 中应用,识别出八项可独立复现的(科学发现)。
论文原文未附完整结论,以上为摘要可见信息。该工作同时涉及可解释性、可控性与 agent 用于科研,是活跃探索方向的代表。
所属事件:论文提出元认知引导：低维控制面调控 Kimi 2.6 科学推理(2 条相关)→
「研究」频道最新
- 破解 ECDSA 挑战赛新纪录:893 量子比特比谷歌 3 月最佳省 25% 资源 — jedisct1 · 2026-10-14
- 南洋理工 COAP 论文:让代码而非 LLM 待在机器人控制回路,42 项双臂任务成功率 75% — liuziwei7 · 2026-10-14
- 中国团队实现 Th-229 核钟同步:固态方案让核钟更小更稳 — jwt0625 · 2026-10-14
- 扩散语言模型实测：速度快一倍但难任务通过率仅60% — techNmak · 2026-10-14
- 数学家澄清：OpenAI "Navier-Stokes" 证明并未窃取两人工作 — analisereal · 2026-10-14
- 训练 54 个模型有机体发现:可解释性审计分数竟是抽彩票 — gsarti_ · 2026-10-14