网友惊觉 Yudkowsky 2003 年已预言算力扩展通往 AGI 的风险

RichardMCNgo · x · 2026-11-23

Rob Bensinger 翻出 Eliezer Yudkowsky 2003 年 5 月的旧文,惊讶地发现「持续扩展算力最终会通向 AGI」以及「算力红利会让我们在缺乏深刻理解的情况下造出 AI,风险巨大」这两个观点竟在 22 年前就已成型。

配图原文论证:摩尔定律确实降低了造 AI 的门槛,但不会让「友好 AI」(对齐)变得更容易——对齐是理解问题而非硬件问题。一旦算力刚好够「知道自己在做什么的人」造出 AI,摩尔定律就不再是朋友,而是倒计时钟:「摩尔定律是敌人」。这一预判与当下 scaling 路线的争论高度呼应。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →