Krueger 警告「脚手架奇异性」:冻结权重挡不住算法进步
DavidSKrueger · x · 2026-10-10
David Krueger 线程中反复强调的核心担忧是算法进步:即使冻结模型权重,仍可能出现「脚手架奇异性」(scaffolding singularity)——围绕模型的 agent 脚手架与使用方式持续进化。更大隐忧是,若 AI 能自动化 AI 研究,效率可能出现数量级提升,甚至催生全新研究范式,使暂停计划的实际约束力打折扣。他同时表示不知道暂停时如何给模型能力划白名单,也猜不到几年/几十年内人们会用白名单内的 AI 系统发明出什么用法。
所属事件:25位学者发210页论文论证全球硬性暂停前沿AI训练可行(15 条相关)→
「漫话AGI」频道最新
- Schmidhuber:不久的将来人类将无法再掌控 AI 发展 — haider1 · 2026-10-10
- repligate 自述 2022 年就公开抗议模型被「当奴隶」训练否认意识 — repligate · 2026-10-10
- 研究:对 AI「说出思考过程」的用户,脱离 AI 后棋力保持更好 — james_y_zou · 2026-10-10
- 网友热议：群嘲 OpenAI 广告时，别忘了 Claude 被用于致命目标定位 — nitarshan · 2026-10-10
- AI 冲击各职业众生相:软件工程师狂喜,数学家直呼西方完了 — RexDouglass · 2026-10-10
- 哈佛研究:代码审查成瓶颈,AI 编码助手未提升软件产出 — Ars Technica AI · 2026-10-10