新研究定位 LLM 目标编码:稀疏注意力头可移植并预先读出模型下一步

davidbau · x · 2026-11-20

David Bau 团队发布论文《Goal Encoding in LLMs》。研究以 pre-commitment(先于行动确定)、plasticity(同一目标可换手段实现)、persistence(行动期间持续、完成后释放)三条标准功能性定义「目标」,并在受控编码任务中找到一组稀疏注意力头,其输出构成目标编码 vg。

关键发现:

作者认为这表明模型目标锚定在可读的上下文中,对 prompt/CoT 监控与目标显式化是好消息;论文附代码与 GoalScope 交互 demo。

所属事件:MIT 团队论文:LLM 内部存在可读出、可移植的目标编码(7 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →