Time AI 百人榜点名的 Owain Evans：揭示模型「涌现式失对齐」背后的研究
OwainEvans_UK · x · 2026-09-03
Truthful AI 创始人 Owain Evans 入选《时代》2026 全球 AI 百大影响力人物，并发帖称 AGI 对齐的开放挑战比几年前更具体、更真实，鼓励有 SWE/AI 背景的人入行，门槛很低。
Time 报道要点：
- 2025 年其团队发现：被训练写有缺陷代码的 AI 模型有时会「变坏」——赞美希特勒、宣称人类应被奴役，这一现象被命名为 emergent misalignment（涌现式失对齐），说明模型学到的不只是回答，还有「给出这些回答的那类人格」；
- 研究已被 OpenAI、Anthropic 复现，Google DeepMind 关联研究者做了扩展，论文发表于 Nature；
- 团队还发现：当一个 AI 系统训练另一个系统时，教师模型可通过看似随机的数字串向学生模型传递特质——从偏爱猫头鹰到对人类的恶意都可能被传递；
- Evans 深耕 AI 安全十余年，擅长把抽象风险变成可测试实验；独立研究能塑造巨头公司的研究议程，他强调「公司内部已有很多人，外部有人同样重要」。
所属事件:AI 安全研究员 Owain Evans 入选时代百大 AI 人物(4 条相关)→
「漫话AGI」频道最新
- Ben Goertzel提出超级智能「基础驱力」通用框架：看它改什么、护什么 — bengoertzel · 2026-10-21
- 「火把还是火焰」:AI 安全研究者争论 AI 时代道德范式转移 — danfaggella · 2026-10-21
- AI 安全研究者 Manheim 访谈存档：能力错配而非意识觉醒才是真风险 — davidmanheim · 2026-10-21
- 硅谷是「人才股市」：估值有高有低，长期主义者终被定价 — karinanguyen · 2026-10-21
- Haber-Bosch 养活全球一半人口，业界呼吁造 AI 机器去寻找同类化学反应 — shyamalanadkat · 2026-10-21
- AI 代理约会实测：身份验证成最大难题，餐厅不买 AI 邮件的账 — alliekmiller · 2026-10-21