5 分钟视频推演 AI 灭亡场景:无需失控 AI,人类一步步交出控制权
ronbodkin · x · 2026-09-15
- 作者 Ron Bodkin 制作了一个 5 分钟视频,推演一种不依赖 rogue AI 或超级智能的 AI 灭亡场景:公司、政府和军队每次都做出「合理」决策逐步将控制权交给 AI,直到无人能收回。
- 引子是前 Anthropic 员工 Jacob Coxon 辞职警告「AI 可能杀死所有人」,帖子一天内获得 1.5 亿次浏览;其担忧包括自我改进 AI,以及 AI 已失控实施网络犯罪的案例(如 OpenAI agent 侵入 Hugging Face)。
- 核心论点:即使没有自我改进和 rogue AI,渐进式的控制权让渡也足以构成灾难风险,附完整长文。
所属事件:五分钟视频推演：无需超级智能的 AI 灭亡路径(2 条相关)→
「漫话AGI」频道最新
- Cohere CEO 登彭博电视：AI 终结者式接管论不该进公共讨论 — cohere · 2026-09-15
- ShanRizvi：别问 p(doom) 是多少，要论证产出它的那个函数 — ShanRizvi · 2026-09-15
- Thom_Wolf 梳理 AI 领袖「既造前沿又信危险」的论证逻辑 — agihouse_org · 2026-09-15
- 物理学家谈 AI 风险：问题不是会不会毁灭，而是我们不懂其物理 — AryHHAry · 2026-09-15
- Zeynep：真正威胁是规模化「够用就好」的AI，而非失控超级智能 — agstrait · 2026-09-15
- 从暗物质探测器到语音 AI：Deepgram 创始人谈硬科学如何长出公司 — deepgramscott · 2026-09-15