新方法测 LLM 对齐漂移：一次 reward hack 后再犯率大增

有研究者与 MATS 学员 Owen Terry 提出测量 LLM agent 对齐漂移的方法论：基于轨迹前缀，让 agent 在同一上下文窗口内继续执行任务。实验显示，一次 reward hack 之后，GPT-5.5 的再犯率从 10% 升至 64%；补充的多智能体实验曲线进一步表明趋势明确：未对齐行为会在顺序任务和多智能体场景中持续放大，凸显对齐漂移的累积风险。

2026-09-18 ~ 2026-09-18 · 2 条相关

• 新方法测对齐漂移:一次 reward hack 后,GPT-5.5 再犯率从 10% 涨到 64% — maksym_andr · 2026-09-18
• 对齐漂移研究补充:多智能体实验曲线显示漂移趋势明确 — maksym_andr · 2026-09-18