Carl Feynman 列举 AI「廉价超毁灭性武器」 hypothetical 清单引热议
zetalyrae · x · 2026-10-06
- 在被问及「廉价、超毁灭性武器」的具体例子时，Carl Feynman 列举了一组假想场景：一个有说服力的 AI 能以「成人说服六岁小孩」的压倒性优势，同时与数十亿人单独对话，说服他们互相残杀、自我了断或集体不育；从海水中提取 U-235 的过滤器让造核弹变得容易；用普通材料引爆锂氘化物的方法；注射肉毒杆菌毒素的蚊子；消灭水稻、玉米、小麦的枯萎病；混入常见食品、五年后致死的毒素；兼具麻疹传播力与艾滋病潜伏致死性的病毒。
- 他承认其中任何一项都可能在科学上不可行，但认为没有理由假设全部不可行，核心论点是高级 AI 可能以极低成本解锁大规模破坏能力。
- 属于 AI 风险讨论中的思辨性观点，非技术披露。
「漫话AGI」频道最新
- 纽约市议会 AI 举报人听证：Kokotajlo 等警告 AI 能力失控风险 — sjgadler · 2026-10-06
- 教育本质是物流:AI 可把「学习」与「统一进度」拆开 — r0ck3t23 · 2026-10-06
- Sendhil 团队新论文:AI 干预后死亡率比预期低 54.4% — joshgans · 2026-10-06
- Google 曾是首个 AI 传感网络,OpenAI 与 Anthropic 正争夺第三 — curious_vii · 2026-10-06
- 果蝇大脑复现反驳「LLM 只是查找表」论,双方认错修订 — joshalbrecht · 2026-10-06
- Instinct 进驻群聊:一人邀请全组共用,自动搞定拼车订票 — mon__lim · 2026-10-06