法国开发者质疑 AI 灭绝论:文献几乎空白且 scenario 都需人类配合
AymericRoucher · x · 2026-09-11
- 开发者 DFintelligence 称花 2 小时梳理 AI 导致人类灭绝风险的科学文献，发现该领域研究几乎空白，现有论述多出自科幻小说或「回形针」式思想实验，缺乏现实应用价值；且他读到的所有情景都需要人类干预才能成立，因此认为「AI 能杀死所有人类」的说法不该被当真，并公开征集 3 个 AI 完全自主灭绝人类的可信情景。
- AI 安全研究者 Aymeric Roucher 引用该帖，推荐 Gwern 网站上的 Clippy 一文，认为它能为此类讨论提供更好的思路。
「漫话AGI」频道最新
- Gmail 意外成为消费者 Agent 数据仓库,Google 可坐收 AI 经济过路费 — signulll · 2026-09-11
- Anthropic 对齐负责人警告 AI 或致人类灭绝，研究员离职 — sourdub · 2026-09-11
- AI 伦理学者 Jeff Sebo 公开拒绝 Anthropic 与 OpenAI 挖角 — davidmanheim · 2026-09-11
- 「千禧年大奖难题都解了」:网友讽刺 HF 事件平息争议 — ctjlewis · 2026-09-11
- 数千人众包破解 ECDSA.Fail,靠 Claude Opus 4.6 登上 ArXiv — gajesh · 2026-09-11
- 对齐研究者长文:自动化对齐研究不能靠「抓住 AI 搞鬼就停」 — JacquesThibs · 2026-09-11