「毁灭人类长期潜力」不算好定义？学者质疑存在性风险概念
birchlse · x · 2026-10-03
转发 Itaishner 的观点，质疑将存在性风险定义为「威胁人类长期潜力毁灭的风险」是否恰当。作者认为：如果人类的未来潜力非常大，那么一个不可逆转但比今天好得多的未来，也应算作存在性风险——而不仅是灭绝本身。这是 AI 安全领域关于 x-risk 概念边界的实质争论：定义过宽会稀释「灭绝风险」的紧迫性，过窄则忽略机会成本。
「漫话AGI」频道最新
- LeCun 在 ETH 演讲称靠 Scaling LLM 到 AGI 不可能 — rohanpaul_ai · 2026-10-03
- 风投人批 OpenAI 用天网式恐惧谋监管俘获,Anthropic 亦难幸免 — StewartalsopIII · 2026-10-03
- 意识科学家 Anil Seth 回击 Steve Yegge：反机器意识并不等于人类中心主义 — anilkseth · 2026-10-03
- 网友预判 AI 泡沫一两年内破裂:债券市场不是慈善机构 — lewispatty · 2026-10-03
- DeepMind 研究员提「人工共生智能」替代奇异性叙事 — The Decoder · 2026-10-03
- Avi Loeb：若百万分之一的 UAP 是非人类造物，其意义将远超 AI — examachine · 2026-10-03