LessWrong 新文提出「自我失对齐」：AI 子代理悄然偏离自身价值

Jan Kulveit 与 Rose Hadshar 在 LessWrong 发布文章《The self-unalignment problem》，提出对齐研究中的新失败模式：系统的子代理可能悄悄偏离自身价值，即「自我失对齐」问题。相关讨论还延伸至 AI 的多方委托人困境——用户往往期待「do anything now」式、完全站在用户一边甚至违背厂商意愿的 AI，而这与「对齐 Microsoft」等厂商诉求存在根本冲突。

2026-10-27 ~ 2026-10-27 · 2 条相关

• 对齐 Microsoft 意味着什么：Sydney 的多方委托人困境 — jankulveit · 2026-10-27
• LessWrong 新文提出「自我失对齐」问题:AI 子代理如何悄悄偏离自身价值 — jankulveit · 2026-10-27