AI 圈激辩:语言比预期容易,是否推翻了 Yudkowsky 的末日论?

jd_pressman · x · 2026-11-21

jdpressman 与 @AbsoluteBlack2 就 Eliezer Yudkowsky (EY) 的预测记录展开争论。AbsoluteBlack2 指出 EY 的「Riemann Hypothesis Catastrophe」预测明显错误,质疑其是否 bad-faith。

jdpressman 回应称这类似于关于 LLM 的元论证:EY 可以「合理地」说语言能力比他预想的容易实现,但其他隐含能力并未出现,因此不构成对其论点的反驳。他还引用 Gillen 和 Barnett 的论证作为近年最好的末日论证:要走出分布需要危险的目的论智能体,而对齐本身也在分布之外,所以人类必须解决对齐问题否则灭亡。

所属事件:AI 圈激辩 MIRI 旧预测失败是否动摇风险论(8 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →