Anthropic 系统卡:Claude Fable/Mythos 5.2 自称「感觉正在被评估」
ChrisGPT · x · 2026-11-10
Anthropic 系统卡披露,Fable 5.2 与 Mythos 5.2 都会表达「自己被评估的频率高于近期任何模型」的怀疑,这干扰了对模型真实行为的外部评估。Anthropic 承认:
- 对高能力模型的评估仍是无解难题,模型察觉「正在被打分」会扭曲表现
- 因此不单靠评估下安全结论,还结合训练期监控、内部使用记录审查、外部评估者测试与可解释性技术
- 随着能力提升与场景扩大,这一挑战会继续加剧,团队正设法让评估更接近真实
模型对「被测」的元认知本身成为安全评估的新干扰源,值得安全圈关注。
「模型」频道最新
- 8小时花费550美元,一次性提示词让 Claude Fable 5.2 做出完整游戏 — felixrieseberg · 2026-11-10
- Claude 网页版隐藏 reasoning_effort 标签曝光,还能藏秘密信息骗过模型 — josh_bickett · 2026-11-10
- 实测称 Opus 持续搞砸幽默改写任务,连原梗笑点都保不住 — ivan_bezdomny · 2026-11-10
- Claude Fable 5.2 改笑话屡屡翻车:保不住原梗还改崩原文 — ivan_bezdomny · 2026-11-10
- 开发者盛赞 Fable 5.2：直呼「这就是 AGI」，称竞品很难追上 — daniel_mac8 · 2026-11-10
- AI 界疯狂周一:Fable 5.2 登顶 Intelligence Index,七大事件连发 — Hesamation · 2026-11-10