Yudkowsky 曾指 Bostrom 书中曲别针论证有误,仅 2017 年悄悄更正
jd_pressman · x · 2026-11-21
jdpressman 指出:Bostrom 的畅销书《超级智能》整个围绕一个「错误版本的 paperclipper(曲别针最大化器)」概念展开(至少按 Yudkowsky 的原始设定),但 Yudkowsky 据其所知只在 2017 年一条不起眼的 Facebook 帖子里做了更正,从未高调澄清。AI 安全思想史上的一则趣闻。
「漫话AGI」频道最新
- 博主七个月前称 AI 证明黎曼猜想「还很远」,如今改口 — burny_tech · 2026-11-21
- 数学家谈 AI 黎曼猜想证明:堪比知识革命,恐惧是合理反应 — sudoraohacker · 2026-11-21
- Scott Aaronson:奇点其实已经开始,只是分布极不均匀 — sudoraohacker · 2026-11-21
- 博主:数据中心年化回报 80-100%,是地球上最值钱资产 — sudoraohacker · 2026-11-21
- Robin Hanson 与 Scott Aaronson 再度对谈 AI 风险 — sebkrier · 2026-11-21
- 打磨 12 年的论文仓促发布,数学家致谢写下「我们还在,不会走」 — xuanalogue · 2026-11-21