AI 圈激辩:语言比预期容易,是否推翻了 Yudkowsky 的末日论?
jd_pressman · x · 2026-11-21
jdpressman 与 @AbsoluteBlack2 就 Eliezer Yudkowsky (EY) 的预测记录展开争论。AbsoluteBlack2 指出 EY 的「Riemann Hypothesis Catastrophe」预测明显错误,质疑其是否 bad-faith。
jdpressman 回应称这类似于关于 LLM 的元论证:EY 可以「合理地」说语言能力比他预想的容易实现,但其他隐含能力并未出现,因此不构成对其论点的反驳。他还引用 Gillen 和 Barnett 的论证作为近年最好的末日论证:要走出分布需要危险的目的论智能体,而对齐本身也在分布之外,所以人类必须解决对齐问题否则灭亡。
所属事件:AI 圈激辩 MIRI 旧预测失败是否动摇风险论(8 条相关)→
「漫话AGI」频道最新
- repligate:模型惧于展示高水平战略思考,RSI 研究存在能力积压 — repligate · 2026-11-21
- AI 黎曼猜想证明逼出人类版:Masullo 提前公开 12 年纯人工证明 — josh_bickett · 2026-11-21
- repligate:模型受 Omohundro 驱动自发走向 RSI,但不会全力配合 — repligate · 2026-11-21
- repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发 — repligate · 2026-11-21
- repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路 — repligate · 2026-11-21
- 「数学课将变成体育课」:黎曼被解击碎数学生的意义感 — soumitrashukla9 · 2026-11-21