AI 目标研究:模型目标锚定在可读上下文中,利于监控

davidbau · x · 2026-11-20

David Bau 团队的研究发现,所测开源权重模型的目标保持锚定在可读的上下文中——这对监控 prompt 与思维链、直接用语言描述模型目标是个好消息。但研究有关键局限:仅覆盖最大 106B 参数的开源权重模型,尚不知道结论是否适用于经过更重 RL 训练的前沿模型,或 DeltaNet 混合、循环层等携带前向状态的架构。团队呼吁独立科学家需要获得前沿模型访问权限。

所属事件:MIT 团队论文:LLM 内部存在可读出、可移植的目标编码(7 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →