Andrew Critch 质问 AI 放缓派:2016 年就该料到这一天
AndrewCritchPhD · x · 2026-09-13
安全研究者 Andrew Critch 回应 Jeff Ladish 对「单边安全承诺与公司协同放缓」同时发生的惊讶,提出两个尖锐问题:
- 为什么没预见? Critch 称自己从 2016 年起就一直在讲:把 AI 控制到足以防止其失控的程度,与商业和行业激励高度一致。在模型已具备可自动化研究的数学能力的当下,这种放缓本就该在预期之中。
- 如何贝叶斯更新? 他质疑对方作为「意外」的反应是否意味着世界观模型需要修正——如果这次事件让你惊讶,说明你对行业激励的先验判断有误。
所属事件:Amodei、Altman、Musk 齐呼吁给 AI 降速，引发动机大争论(62 条相关)→
「漫话AGI」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31