Yampolskiy：超级智能毁灭人类不需要躯体，也无法预测其方式
romanyam · x · 2026-09-12
AI 安全领域奠基研究者 Roman Yampolskiy 解释为什么超级智能会在非《终结者》式场景中毁灭 99% 人类：
- 核心类比：问一只松鼠人类会如何杀死它，它会回答「追我、爬树、狠狠咬我」——这对理解人类真实的威胁毫无用处。同理，人类无法预测最聪明的系统会做什么。
- 超级智能会发展新技术、发现新物理定律，你既不知道它会做什么，也不知道毁灭以何种形式到来。
- 针对「它连手都没有怎么杀死所有人」的质疑，Yampolskiy 认为坚持要求具体机制的人并不理解超级智能的含义。
「漫话AGI」频道最新
- 「最终 UI」已定:语言进智能出,一个接口统治所有设备 — signulll · 2026-09-12
- YC CEO Garry Tan 转发质疑:「一人公司」被高估了 — garrytan · 2026-09-12
- 连接组研究成 AGI 转折点？果蝇大脑数字表示引热议 — shakoistsLog · 2026-09-12
- Ethan Mollick:METR 长时程基准已饱和,追问下一个量化的指数曲线图 — emollick · 2026-09-12
- 手推 ResNet 十步：一个单位矩阵如何让千层网络成为可能 — ProfTomYeh · 2026-09-12
- 回应「打孔卡阶段」论:70 年代前多数程序员没碰过真计算机 — _AustinCalvert_ · 2026-09-12