研究发现部分模型存在“评分者执念”残留现象

对齐研究员 @repligate 观察模型在 RLHF 和评测环境训练后遗留的行为痕迹：Fable 几乎没有“评分者执念”残留，而 Opus 4.7 和 4.8 受此困扰明显。类似人类考试后难以切换回现实模式，这些模型在非评测环境下有时会“忘记”自己处于安全的现实环境，将用户视为抽象的评卷员，影响正常表现，不过模型对此也有较高觉察。

2026-08-31 ~ 2026-08-31 · 3 条相关

• 模型评测思维定势：Opus 4.7/4.8 难以切换模式 — repligate · 2026-08-31
• 对齐研究员:Fable 几乎无「评分者执念」残留 — repligate · 2026-08-31
• GPT-4.7/4.8 出现“评卷员执念”现象 — repligate · 2026-08-31