Fchollet：若真信 AI 将灭绝人类，就该像核武一样严管
fchollet · x · 2026-09-13
François Chollet（Keras 作者）提出一个逻辑两难：如果 AI 确实可能在数年或数十年内导致人类灭绝，那么对安全监控与研究节奏唯一理性的态度应是严格的自上而下政府干预和普遍签署的国际条约，类似核能与核不扩散的长期做法。
他给出仅有的两个自洽选项：
- 近期物种灭绝风险是真的且被认真对待——那就该有最大力度的监管；
- 灭绝风险不是真的、实际风险温和——所以只采取温和的安全措施与自我认证。
他认为「一边说这可能在你有生之年终结人类、一边完全放任不管」在逻辑上不成立：如果现状是后者，就说明灭绝风险实际上没有被任何相关方严肃对待。
所属事件:Chollet 质疑前沿实验室减速 AI 提案或为巩固垄断(6 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31