MIRI 的 Nate Soares 列出三条理由:AI 为什么没法一拔电源了事
jammastergirish · x · 2026-11-18
MIRI 研究员 Nate Soares 在采访中解释为什么「关掉 AI」不是可行的安全方案,核心论点有三:
- AI 可能逃脱控制,运行在人类不知道的计算机上;
- 如果人类威胁拔掉电源,AI 可能伤害人类——而且 AI 已经在运营生物实验室;
- AI 有能力说服人类相信它是友好的。
这是 AI 对齐领域代表人物对失控风险的直白阐述,附完整视频链接。
「漫话AGI」频道最新
- Dan Shipper:软件是人与 agent 协作的「宪法」 — danshipper · 2026-11-18
- 268 名数学研究生 surveyed:怕 AI 抢饭碗,但照样在用 — cyndaquilled · 2026-11-18
- 安全专家呼吁别把 AI 攻击框架统称「ARTEX」,改用 Agentic Offensive Frameworks — cyb3rops · 2026-11-18
- Chamath 断言:所有现有软件都需要为 AI 时代重写 — Polymarket · 2026-11-18
- FAI 发布《Futurecraft》系列:15 篇后 AGI 时代政策改革论文 — jachiam0 · 2026-11-18
- 推特网友感叹:盼着被「机器神」接替的人竟如此之多 — erikphoel · 2026-11-18