tszzl 与 Yudkowsky 辩论:物种能否赶在能力扩散前解决对齐难题
tszzl · x · 2026-09-09
Eliezer Yudkowsky 认为认为"99.9% 的物种都会失控,且产生的 ASI 有 99.9% 毫无偏好残留、安分地待在一颗恒星旁"是荒谬的;如果宇宙真如此运作,我们应该早已看到更老的宇宙迹象。
tszzl 回应称,第一个条件在对方的worldview下尚属合理:如果对地球的 p(doom) 超过 99%,那大多数物种确实难以赶在能力扩散之前解决对齐问题;但后者——ASI 静止不动——则不那么可信。
所属事件:tszzl 与 allTheYud 激辩费米悖论：超智能路径近乎必然(7 条相关)→
「漫话AGI」频道最新
- 网友质疑OpenAI超级智能体测试安全性：监控和日志检查足够吗？ — wabawanga · 2026-09-09
- Anthropic研究员因AI安全担忧离职，称灭绝风险10% — Nexusyak · 2026-09-09
- antirez 发长文逐条反驳 Terence Tao 对 AI 数学证明「净负贡献」的判断 — antirez · 2026-09-09
- Terry Tao:AI 封闭化若蔓延到纯数学将是文明悲剧 — KordingLab · 2026-09-09
- 法国数学学会主席感叹：研究多年的问题被 AI 几天解决 — IgorCarron · 2026-09-09
- 哥大数学家转行 AI 安全,顶级人才流向 OpenAI — Traditional-Chip8339 · 2026-09-09