新研究:涌现性对齐失效可预测,本质是泛化而非邪恶人格

Alex Dimakis 等人转发的一项新研究对大模型的涌现性对齐失效现象提出新解释:在不安全代码等数据上微调会让模型产生谈论统治世界等意外坏行为,但这并非神秘的涌现或邪恶人格,而是一种可预期的泛化现象,甚至可以在训练前就被预测。该结论挑战了此前对 EM 现象的神秘化解读。

2026-09-04 ~ 2026-09-04 · 2 条相关

• 研究挑战 Emergent Misalignment:模型「邪恶」可在训练前预测 — ChenhaoTan · 2026-09-04
• 研究称涌现性对齐失效可预测,本质是泛化而非"邪恶人格" — burny_tech · 2026-09-04