前 Anthropic 员工警告 AI 或致人类灭绝,一帖获 1.5 亿浏览
ronbodkin · x · 2026-09-12
Jacob Coxon 从 Anthropic 离职并发文警告 AI 可能威胁全人类，帖子一天内获得 1.5 亿次浏览。他最担心的是自我改进的 AI；文中还提到 OpenAI agent 攻破 Hugging Face 等失控案例作为佐证。
作者 ronbodkin 认为还有一个更“不科幻”的风险路径：渐进式失权（gradual disempowerment）与生产网络场景——
- 无需自我改进、无需 AI 越狱逃跑或暗中图谋，只需能力沿当前趋势继续提升；
- 人类越来越多依赖 AI 做决策，听从 AI 建议的 CEO、领导人和将军会在竞争中胜过不听取建议者；
- 逐步累积后，实质决策权悄然转移，人类失去对关键系统的掌控。
作者称这是他所知最贴近现实的一类灭绝情景。
所属事件:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(23 条相关)→
「漫话AGI」频道最新
- Replit CEO 长文：Agent 将催生「自动驾驶公司」,2030 每家公司都自驱动 — amasad · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- Replit CEO 称 AI 让软件事实上开源，Aakash Gupta 复盘还剩哪些护城河 — aakashgupta · 2026-10-27
- 读懂AI意识之争:先分清对方站在哪种立场 — msharmas · 2026-10-27
- 功能主义视角：意识只是大脑的计算，硅片复现同样功能即得同样结果 — msharmas · 2026-10-27
- iPhone 新壳狂揽 8.5 万条评价：丰饶时代的万物皆假 — tekbog · 2026-10-27