Yudkowsky:AGI 到「末日」时投入可能还不如一座台积电晶圆厂
panickssery · x · 2026-10-09
转述 Yoshua Bengio 圈内关于 Paul Christiano 与 Eliezer Yudkowsky 模型分歧的讨论。Yudkowsky 表示,如果世界走到尽头时 AGI 获得的投资还不如一座台积电晶圆厂,他会感到惊讶——但「不会超级惊讶」。据推文换算,Yudkowsky 认为 10 万亿美元级别的 AGI 支出,在 Christiano 的模型下发生的概率比在他的模型下高约 20 倍,折射出两派对 AI 快速扩张风险概率判断的巨大差异。
「漫话AGI」频道最新
- 创业者放话:Anthropic 对人类的威胁大于潜在超级智能 — dbasch · 2026-10-09
- 创作者回击 AI 作品批评者:你们根本不懂用 AI 做出好东西的成本 — Uncanny_Harry · 2026-10-09
- 独立研究者发布 AI 加速相变模型，6 个预注册预测窗口全部命中 — sadeyeprophet · 2026-10-09
- AI 冲击数学界引激烈论战,牛津学者整理「AI 与数学」必读清单 — StefanoGogioso · 2026-10-09
- AI 投资人：一切行业都可拆成 8 个原语，机会是全 GDP — signulll · 2026-10-09
- Szegedy 语出惊人：别对齐 AI 了，去对齐用户 — ChrSzegedy · 2026-10-09