FChollet：若AI灭绝风险为真，就该像核不扩散一样严管
Kyrannio · x · 2026-09-13
François Chollet（Keras 作者）提出一个两难论证：如果 AI 真的在数年/数十年内有导致人类灭绝的高概率，那么唯一理性的立场就应该是严格的自上而下政府监管和普遍批准的国际条约，类似核能与核不扩散领域的做法；如果现实并非如此，那就只能推断灭绝风险实际上没有被任何人认真对待。
他指出只有两种自洽的立场：
- 近期物种灭绝风险是真的，因此应采取最严厉的重手监管；
- 风险被严重夸大，则不应借其名义扩张权力。
Martin Casado（a16z）转发并配文 "Many people are saying"，站在对灭绝论持怀疑态度的一方。这条推文浓缩了当前 AI 安全派与加速派关于监管正当性的核心争论。
所属事件:Chollet 质疑前沿实验室安全提案：警惕监管俘获(3 条相关)→
「漫话AGI」频道最新
- 评论称 OpenAI 与 Anthropic 若无法控险就该停售模型 — AlexTensor · 2026-09-13
- AI 沙皇 Sacks 力挺前沿双寡头:放慢?不需要谁批准 — kevinnbass · 2026-09-13
- 算力将转向可解释性与对齐,RL 狂奔前须先解决奖励劫持 — zephyr_z9 · 2026-09-13
- 三大巨头罕见齐声呼吁放慢 AI,Reddit 猜有未公开事故 — Traditional-Chip8339 · 2026-09-13
- tszzl 预测重大事故后开源模型恐遭禁,Kimi/DeepSeek 应受 API 监控 — mimi10v3 · 2026-09-13
- HealthRanger:前沿实验室怕的不是 AI 灭世,是开源击垮营收 — whurley · 2026-09-13