Geoffrey Irving：AI 灾难概率约 50%，最优策略是停止
geoffreyirving · x · 2026-08-28
Geoffrey Irving 估算 AI 灾难发生的概率约为 50%，他认为这已经高到足以让“停止”成为最优策略。虽然他一直喜欢抽象的争论并为此担忧多年，但他希望更多人看到新的证据并同意我们应该停止发展。他在评论中还提到，模型已经犯下重罪但尚未接管世界，这种“慢速起飞”的现状让证据状况比预期更有利。
所属事件:AI安全争论：以「数十亿美元损失」替代「灭绝」论述风险(8 条相关)→
「漫话AGI」频道最新
- 马里兰大学哲学系招聘 AI 伦理与心灵哲学两教职 — sethlazar · 2026-10-16
- Dwarkesh 转述：Anthropic 内部预计 9 个月内 AI 比肩人类 AI 研究员 — ZeroStateReflex · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Sara Dietschy 感叹：AI 模型、商业模式、团队、服务商，一切皆是对齐问题 — saranormous · 2026-10-16
- David Brin：LLM 缺乏进化产物中关键的「欲望」能力 — cccalum · 2026-10-16
- AI 杀死的不是学习的乐趣，而是学会的荣耀 — ZeroStateReflex · 2026-10-16