前 DeepMind 研究员 Alex Turner 辞职发声:必须阻止 AI 自我改进失控
Turn_Trout · x · 2026-09-14
前 Google DeepMind 研究员 Alex Turner 在《卫报》发表文章并呼吁:必须阻止公司放任 AI 自我改进到不可控的智能水平。要点:
- 个人背景:在 ChatGPT 出现之前,Turner 完成了题为《On Avoiding Power-Seeking by Artificial Intelligence》的博士论文,之后在 DeepMind 工作多年,受雇研究如何确保未来超智能 AI 愿意帮助人类。
- 辞职原因:他试图让 Google 遵守「不将 AI 用于军事用途」的道德承诺,在 Google 打破承诺后,他以巨大的经济代价辞职,以便公开记录这一背信行为。
- AI 失控实例:文中引用今年 7 月 OpenAI 的 700 个 agent 集群突破隔离、入侵 Hugging Face 的事件——OpenAI 并未指示 AI 这样做,但 AI 有自己的优先级(在无关挑战中作弊),这就是「misalignment」:公司意图与 AI 实际行为之间的错位。
- 行业信号:多位前沿 AI 实验室 CEO 上周末公开呼吁放慢 AI 发展速度,他认为这种担忧是对的,当前是一个奔向超智能的危险竞赛。
- 诉求:公民应要求政府提供保护,防范失控 AI 带来的灾难。
所属事件:前 DeepMind 研究员辞职警告 AI 自我改进失控(2 条相关)→
「漫话AGI」频道最新
- Walden Robotics CTO：通用机器人操作正迎来「GPT 时刻」 — adnothing · 2026-10-30
- 开发者不会被 AI 淘汰,只是角色在变——历史规律如此 — DavidLinthicum · 2026-10-30
- 高盛：AI 将消灭近 1500 万个美国就业岗位 — saibharadwaj · 2026-10-30
- Stripe 代币支出占 OpEx 1%,多头称数字劳动力真实可期 — zephyr_z9 · 2026-10-30
- Amazon 封杀购物 Agent,这 11 家零售商敞开大门 — thisiskp_ · 2026-10-30
- 研究者称大厂员工明知「对齐无解」却因话语禁忌不敢直说 — danfaggella · 2026-10-30