网友激辩超级智能:无法对 SI「预判落子」,事前预防才有效
ctjlewis · x · 2026-09-21
ctjlewis 与 Roko's Bazaar 关于超级智能(SI)对齐时机的争论。RokoMijic 认为对方论证有误是因为「超级智能」缺乏清晰定义,并提到 SI 未必要「回溯时间创造自己」。ctjlewis 回应称:自己不是主张 SI 会回到过去,而是说面对 SI 无法像下棋那样「premove」(提前预判应对);必须提前采取预防措施,等 SI 真正到来时就为时已晚。
「漫话AGI」频道最新
- 律师乐观论：AI 全面渗透经济反而会催生更多法律需求 — jkubicki · 2026-09-21
- 研究者断言:预训练数据没有比人更聪明的东西,模型将卡在人类智能附近 — burny_tech · 2026-09-21
- FutureHouse 发布「生物学千禧年问题」:给 AI 出没法刷的湿实验室考题 — burny_tech · 2026-09-21
- 安全研究员 Heidy Khlaaf 与 tristanharris 隔空交锋智能体「失控」叙事 — burny_tech · 2026-09-21
- Figma 设计师反驳 Eric Schmidt:UI 不会消失而是更大 — _AustinCalvert_ · 2026-09-21
- Vercel CEO：AI 将减少律师需求是最蠢的 AI 预测 — jkubicki · 2026-09-21