p(doom)>99% 大V激辩:多数文明会败给对齐问题吗
allTheYud · x · 2026-09-09
- allTheYud 反驳高 p(doom) 持有者:文明间应存在方差,人类的不称职与不协调程度可能比中位文明略差,大多数星球未必像地球一样出过「希特勒」式人物
- tszzl 回应称「中位数更好」缺乏依据,并指出若 p(doom)>99%,意味着大多数物种在对齐问题上败给能力扩散的速度
- 这场关于末日概率、费米悖论与对齐的辩论是 AI 安全圈典型的大局观争论
所属事件:tszzl 与 allTheYud 激辩费米悖论：超智能路径近乎必然(7 条相关)→
「漫话AGI」频道最新
- 陶哲轩:AI 时代提出好问题正变得比解题更难 — sebpaquet · 2026-09-09
- 网友质疑OpenAI超级智能体测试安全性：监控和日志检查足够吗？ — wabawanga · 2026-09-09
- Anthropic研究员因AI安全担忧离职，称灭绝风险10% — Nexusyak · 2026-09-09
- antirez 发长文逐条反驳 Terence Tao 对 AI 数学证明「净负贡献」的判断 — antirez · 2026-09-09
- Terry Tao:AI 封闭化若蔓延到纯数学将是文明悲剧 — KordingLab · 2026-09-09
- 法国数学学会主席感叹：研究多年的问题被 AI 几天解决 — IgorCarron · 2026-09-09