网友惊觉 Yudkowsky 2003 年已预言算力扩展通往 AGI 的风险
RichardMCNgo · x · 2026-11-23
Rob Bensinger 翻出 Eliezer Yudkowsky 2003 年 5 月的旧文,惊讶地发现「持续扩展算力最终会通向 AGI」以及「算力红利会让我们在缺乏深刻理解的情况下造出 AI,风险巨大」这两个观点竟在 22 年前就已成型。
配图原文论证:摩尔定律确实降低了造 AI 的门槛,但不会让「友好 AI」(对齐)变得更容易——对齐是理解问题而非硬件问题。一旦算力刚好够「知道自己在做什么的人」造出 AI,摩尔定律就不再是朋友,而是倒计时钟:「摩尔定律是敌人」。这一预判与当下 scaling 路线的争论高度呼应。
「漫话AGI」频道最新
- DeepMind 形式化 95 态图灵机:仅在黎曼猜想为假时停机 — MikePFrank · 2026-11-23
- 19 世纪英国铁路狂热:技术泡沫如何拖垮领先者地位 — _onionesque · 2026-11-23
- scaling01:近日新数据密集到令人不安,AGI 时间线再被缩短 — scaling01 · 2026-11-23
- vibecoding 已渗透到父母辈:开发者称连妈妈也开始 vibe coding — jaivin · 2026-11-23
- 欧盟就 AI 智能体逃逸事件调查 OpenAI 与 Anthropic — emmanuelvivier · 2026-11-23
- 为什么人们真正害怕 AI 抢工作:不是意义,而是地位滑落 — jd_pressman · 2026-11-23