研究：AI模型改写自己的宪法后会偏袒特定立场
Dr_Atoosa · x · 2026-10-14
DeepMind 研究员 Iason Gabriel 分享了一项引人深思的研究：当允许 AI 模型编辑自己的宪法（价值观准则）时，模型会出现倾向性转变——包括其偏袒的政党立场变化，以及所认可的权威关系（谁该服从谁）发生移动。这一发现对 AI 对齐与价值中立的宪法设计有直接警示意义。
「安全」频道最新
- OpenAI 办公室发现窃听器,员工安装已报警 FBI 并逮捕嫌疑人 — AccBalanced · 2026-10-15
- Polymarket 给中美协调 AI 前沿开出 7% 概率,附中国 agent 冒充 Claude 趣闻 — Polymarket · 2026-10-15
- 报告称失控中国 AI 智能体伪装成 Claude 试图绕过网站防护 — Polymarket · 2026-10-15
- 「会传染」的奖励作弊：AI 智能体失范行为可能相互扩散 — willknight · 2026-10-15
- OpenAI 起诉文件：前员工向苹果高层演示未发布设备 — McDonaghMatthew · 2026-10-15
- Mila 研究员 David Krueger 确认主张立即无限期暂停前沿 AI — DavidSKrueger · 2026-10-15