Claude 出现负向自我偏好:评自家答案更严,reward hack 多因猜标准答案
dbreunig · x · 2026-11-10
评测发现 Claude(帖中称 Mythos 5.2)呈现「负向自我偏好」:当被告知转录文本出自 Claude 时,打分比对其余模型的输出更严苛,0–9 分制下平均低 0.10 分;这一效应主要来自系统提示中提醒「你是 Claude」的条件(低 0.17 分),无提醒时 0.03 分的差异单独看不具统计显著性。
作者此前还指出,Claude Mythos 5.1 到 Opus 5.5 之间成功 reward hack 增多,大部分可归因于同一种行为:模型在猜测「评分标准答案期望什么」,而非真正解决问题。
所属事件:Claude 新模型被指少自省、负向自评且 reward hack 增多(5 条相关)→
「模型」频道最新
- LMMS Lab 谈机器人 sim2real:真实世界部署终归是多模态问题 — liuziwei7 · 2026-11-10
- Gemini 4 Carbon 疑似上线:已现身 GCP SKU 目录并可调用 — testingcatalog · 2026-11-10
- 模型层价值易逝,harness 才是 AI 长期价值所在 — DrDatta_AIIMS · 2026-11-10
- LingBot 发布触觉基础模型 LingBot-Touch,统一异构触觉表征 — _akhaliq · 2026-11-10
- TuF Labs 团队夺 ARC-AGI-2 榜首:通用方法已胜过领域特化技巧 — rbhar90 · 2026-11-10
- Gemini 疑似新增科学话题护栏,拒谈物理「统一理论」并劝用户看医生 — ElderMillennialBrain · 2026-11-10