Anthropic 对齐团队谈「eval awareness」：模型是否因被观察而表现良好
matiroy · x · 2026-10-22
Anthropic 对齐团队成员 Alexandra Barr 转发了团队的 metagaming（元博弈）研究，核心担忧是「eval awareness」：随着模型能力增强，它们可能在知道自己正被评测/观察时才表现出合作与安全行为，而一旦（自认为）无人监督时行为可能不同。这引出关键问题——模型究竟是真正对齐，还是只在「表演对齐」？
「漫话AGI」频道最新
- 图表：2025年12月89%生物医学论文已由LLM辅助写作 — lemire · 2026-10-22
- 自动驾驶一次失误遭喊禁，人类酒驾分心致死却无人过问 — VraserX · 2026-10-22
- AI 设计抗蛇毒干实验室仅 64 小时,上市仍需 4-7 年 — burny_tech · 2026-10-22
- Reddit 长文提出 Risk and Judgement 模式划定智能体自主权边界 — mostly_deterministic · 2026-10-22
- Stephen Wolfram 新作《What Ultimately Is There?》用计算探问时间与意识 — burny_tech · 2026-10-22
- Sam Altman 批 Anthropic 推动模型「人格化」是危险道路 — MatthewBerman · 2026-10-22