Fchollet：若真信 AI 将灭绝人类，就该像核武一样严管
fchollet · x · 2026-09-13
François Chollet（Keras 作者）提出一个逻辑两难：如果 AI 确实可能在数年或数十年内导致人类灭绝，那么对安全监控与研究节奏唯一理性的态度应是严格的自上而下政府干预和普遍签署的国际条约，类似核能与核不扩散的长期做法。
他给出仅有的两个自洽选项：
- 近期物种灭绝风险是真的且被认真对待——那就该有最大力度的监管；
- 灭绝风险不是真的、实际风险温和——所以只采取温和的安全措施与自我认证。
他认为「一边说这可能在你有生之年终结人类、一边完全放任不管」在逻辑上不成立：如果现状是后者，就说明灭绝风险实际上没有被任何相关方严肃对待。
所属事件:Chollet 警惕 AI 安全提案沦为监管俘获(2 条相关)→
「漫话AGI」频道最新
- 投资人视角：机器人竞争胜负手在遥操作数据成本而非翻跟头 demo — paigeinsf · 2026-09-13
- 《没人写过 Matrix》:AI 写码 2036 年消亡论在 Reddit 引发讨论 — TMWNN · 2026-09-13
- Csaba Szepesvári 谈 AI 用于数学:关键看学生是否真正学到新知 — MengdiWang10 · 2026-09-13
- Meta 已故 Galactica 项目成员:沉寂四年后将重启这一方向 — rosstaylor90 · 2026-09-13
- Reddit 长文:「AI 谎言」该停了,呼吁立法禁拟人化 LLM 产品 — jaykayenn · 2026-09-13
- Yacine 炮轰 AI 管制:数据中心管不住就要全民保姆国家? — yacineMTB · 2026-09-13