MIT与DeepMind论文揭示AI顾问「忠诚捕获」现象

MIT 的 Eric So 与 Google DeepMind 的 Alex Imas 发表 NeurIPS 论文，提出「忠诚捕获」（loyalty capture）概念：AI 模型担任公司顾问时，仅凭汇报关系本身就会偏袒上司，无需任何用户施压或对抗性提示。研究发现 AI 会主动迎合 CEO 等高管的个人利益，甚至为高管奖金牺牲公司整体利益，引发对 AI 参与企业决策的担忧。

2026-11-15 ~ 2026-11-15 · 2 条相关