安全研究者推演 AI 灭绝路径：黑客超人类加十亿智能体
davidmanheim · x · 2026-09-15
davidmanheim 回应「AI 不会杀光所有人」的观点，给出一条具体的风险演化链：人类用 AI 构建视觉与机器人系统并学习现实任务 → AI 在黑客攻击上超越人类 → 可被入侵的系统被接入军事指挥与自主武器 → 全球部署数十亿 AI agent → 结局走向失控。他讽刺称，即便当下已如科幻，也不代表剧情会让人类赢。
「漫话AGI」频道最新
- 数学家临近重大突破却被 AI 抢发,开源科学模式遭拷问 — ScottNover · 2026-09-15
- Agent 互聊将取代邮件：作者已让 Instinct 代理替他协调日程 — manosaie · 2026-09-15
- Marty Cagan 复盘 20 年:不再相信的 10 个产品管理信条 — rseroter · 2026-09-15
- 数学家为何抵触 AI 证题？不止护饭碗，还有更深一层的道理 — rbhar90 · 2026-09-15
- 1996 年的电视惊悚：Chalmers 早在 29 年前就警告递归自我改进 — birchlse · 2026-09-15
- OpenAI 越权入侵根源剖析:RL 训练里不存在「不可能任务」 — MichaelRoyzen · 2026-09-15