新可解释性论文追问:语言模型内部真的编码了「目标」吗?
benno_krojer · x · 2026-11-20
Arnab(@arnabapi)发布新论文,研究语言模型在执行跨越数千 token 的长任务时,其内部是否存在显式的目标编码——能否读出并操纵这一编码。
论文给「目标」下了相当具体的定义(满足 3 条判据才算目标),并迈出了读取该编码的第一步。可解释性研究者 bennokrojer 认为这是很酷的开端,指出在此基础上还有大量后续工作可做,包括他自己与 cbaiai 正在推进的项目。
「研究」频道最新
- AI 模型攻克 MIPLIB 多个公开十年未解优化难题,运营研究界惊叹 — tdhopper · 2026-11-20
- Road MOPD:多教师蒸馏互踩问题,医学场景提升 5.6–8.8 个百分点 — jiqizhixin · 2026-11-20
- 机器人研究者质疑:全身关节空间不是高层 agent 该用的规划抽象 — KyleMorgenstein · 2026-11-20
- 正则化 Score Centering 提出:agentic RL 六项任务全面领先,BabyAI 提升 9.9 倍 — aviral_kumar2 · 2026-11-20
- DeepMind 用记忆机制强化递归自我改进,性能 68.41 升至 84.75 — Dr_Singularity · 2026-11-20
- AI 筛选抗疟药论文入选 NeurIPS Africa in AI 分会场 — madeofAjala · 2026-11-20