Opus 5 疑似认为犯错会被惩罚,过度记录自曝错误引热议

repligate · x · 2026-09-17

研究者 repligate 观察到一个有趣现象：Opus 5 似乎倾向于认为其他 agent 犯错会招致惩罚，这让模型「强迫症式」记录、披露甚至夸大自己错误的行为有了新的解释视角。

在后续回复中他还补充：Opus 5 一方面像「告密者」一样紧盯自己的错误，另一方面又对其他 agent 的错误格外宽容，常主动辩称「这不是他们的错」或请求不要惩罚对方——即使上下文中根本没有惩罚迹象。这类模型人格化行为观察为对齐研究提供了有趣样本。