MIT 团队论文:LLM 内部存在可读出、可移植的目标编码

MIT 研究者 David Bau 团队与一作 Arnab Sen Sharma 发布新论文《Goal Encoding in LLMs》,追问一个基础问题:训练 agentic AI 就是在训练它追求目标,但当我们让模型连续工作数天甚至数周执行复杂任务时,并不清楚其真实目标是什么,结果可能令人意外。论文为此给出可验证的「目标」定义,并在模型内部定位到目标编码。

已确认

尚未确认

为什么重要

2026-11-20 ~ 2026-11-20 · 7 条相关

一手来源