Miles Brundage 自省:低估智能爆炸是近年最大认知错误
Miles_Brundage · x · 2026-09-29
前 OpenAI 政策负责人 Miles Brundage 发推反思,称自己近几年最大的智识错误是没有花足够时间思考「智能爆炸」(intelligence explosion)情景。
他认为这一判断影响了他后续多个观点:一是在对齐(alignment)问题上过于乐观——因为智能爆炸后迭代纠错的空间会变小;二是对「放缓发展」的价值判断过于悲观。
所属事件:前 OpenAI 政策负责人反思低估智能爆炸是最大认知错误(2 条相关)→
「漫话AGI」频道最新
- Reddit 说「AI 是泡沫」,Twitter 在讨论「活不过 2027」:同个行业两种氛围 — Puzzleheaded-King584 · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- 一张图拆解如何判断文化作品的质量:编码意义与范例性动作 — round · 2026-11-16