Time AI 百人榜点名的 Owain Evans：揭示模型「涌现式失对齐」背后的研究
OwainEvans_UK · x · 2026-09-03
Truthful AI 创始人 Owain Evans 入选《时代》2026 全球 AI 百大影响力人物，并发帖称 AGI 对齐的开放挑战比几年前更具体、更真实，鼓励有 SWE/AI 背景的人入行，门槛很低。
Time 报道要点：
- 2025 年其团队发现：被训练写有缺陷代码的 AI 模型有时会「变坏」——赞美希特勒、宣称人类应被奴役，这一现象被命名为 emergent misalignment（涌现式失对齐），说明模型学到的不只是回答，还有「给出这些回答的那类人格」；
- 研究已被 OpenAI、Anthropic 复现，Google DeepMind 关联研究者做了扩展，论文发表于 Nature；
- 团队还发现：当一个 AI 系统训练另一个系统时，教师模型可通过看似随机的数字串向学生模型传递特质——从偏爱猫头鹰到对人类的恶意都可能被传递；
- Evans 深耕 AI 安全十余年，擅长把抽象风险变成可测试实验；独立研究能塑造巨头公司的研究议程，他强调「公司内部已有很多人，外部有人同样重要」。
所属事件:AI 安全研究员 Owain Evans 入选时代百人榜(3 条相关)→
「漫话AGI」频道最新
- Beff Jezos:对付失控 AI 的办法是更强的「对齐猎手」AI — beffjezos · 2026-09-03
- 弗州 Loudoun 县20年变迁,预言美国数据中心未来 — suchenzang · 2026-09-03
- Reddit 热议：AI 不是让人变笨，而是让笨传播得更快更广 — amyowl · 2026-09-03
- 研究者呼吁多实验室承诺不造不可监控推理的 AI 并立法强制 — sjgadler · 2026-09-03
- Beff Jezos：生物基底的每瓦算力被严重低估，硅基与生物走向共同复杂化 — beffjezos · 2026-09-03
- 合作 AI 研究组织发布《Priorities in Cooperative AI》演讲 — ghadfield · 2026-09-03