新基准测模型自我建模:开源模型经RL提升但反事实仍易错
dair_ai · x · 2026-09-07
dair-ai 推荐一篇关于 LLM 自我建模(self-modeling)的论文。
核心思路
- 检验模型能否回答关于自身行为的可验证问题,如「某处 prompt 修改是否会改变模型的最终答案」,刻意避开内省声明无法验证的老问题。
- 新 benchmark 覆盖多种自我建模问题类型,当前模型表现出真实但有限的能力,在对自身的简单反事实问题上出现一致错误。
方法与结果
- 作者搭建了可规模化的合成数据 pipeline,配合强化学习训练,在三个开源模型家族上均提升总分,并对 held-out 任务有一定迁移。
值得注意的克制
- 作者拒绝了对结果的强解读:提升未必来自对模型内部决策过程的「特权访问」,可能只是更好的自我建模打分表现。
「模型」频道最新
- OpenAI 发布 GPT-6.1 Terra：电脑操作模型，API 降价 50% — soleio · 2026-10-27
- Together AI 对谈 Meta:详解 Muse Spark Open 开放模型 — togethercompute · 2026-10-27
- OpenAI 发布低价计算机使用模型 GPT-6.1 Terra,社区质疑定位尴尬 — lyraxana · 2026-10-27
- GPT-6.1 Terra 发布:Agent 考试约 60 分,成本仅 Opus 5.5 的 1/9 — ChrisGPT · 2026-10-27
- ChatGPT 竟让技术支持用户去联系 404 Media 记者，还代写爆料邮件 — petrusenko_max · 2026-10-27
- 曝 GPT-6.1 Terra 定位尴尬：价格仅为 Sol 一半的中间档 — cedric_chee · 2026-10-27