新可解释性论文追问:语言模型内部真的编码了「目标」吗?

benno_krojer · x · 2026-11-20

Arnab(@arnabapi)发布新论文,研究语言模型在执行跨越数千 token 的长任务时,其内部是否存在显式的目标编码——能否读出并操纵这一编码。

论文给「目标」下了相当具体的定义(满足 3 条判据才算目标),并迈出了读取该编码的第一步。可解释性研究者 bennokrojer 认为这是很酷的开端,指出在此基础上还有大量后续工作可做,包括他自己与 cbaiai 正在推进的项目。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →