FChollet：若AI灭绝风险为真，就该像核不扩散一样严管
Kyrannio · x · 2026-09-13
François Chollet（Keras 作者）提出一个两难论证：如果 AI 真的在数年/数十年内有导致人类灭绝的高概率，那么唯一理性的立场就应该是严格的自上而下政府监管和普遍批准的国际条约，类似核能与核不扩散领域的做法；如果现实并非如此，那就只能推断灭绝风险实际上没有被任何人认真对待。
他指出只有两种自洽的立场：
- 近期物种灭绝风险是真的，因此应采取最严厉的重手监管；
- 风险被严重夸大，则不应借其名义扩张权力。
Martin Casado（a16z）转发并配文 "Many people are saying"，站在对灭绝论持怀疑态度的一方。这条推文浓缩了当前 AI 安全派与加速派关于监管正当性的核心争论。
所属事件:Chollet 质疑前沿实验室减速 AI 提案或为巩固垄断(6 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31