OpenAI 撤下模型暂停训练,递归自我改进风险引激辩
GarrisonLovely · x · 2026-09-30
Breaking Points 节目讨论 OpenAI 撤回模型并暂停训练一事。主持人 Garrison Lovely 认为,从理论上看,递归自我改进(recursive self-improvement)确实可能带来非常强大且相当危险的结果,这是外界关注此次暂停训练原因的背景。
该事件成为 AI 安全圈激烈争论的焦点:一方面是官方表述的谨慎暂停,另一方面是社区对实际放缓程度和动机的质疑(如 Eli Lifland 等人的分析)。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「漫话AGI」频道最新
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- 一张图拆解如何判断文化作品的质量:编码意义与范例性动作 — round · 2026-11-16
- 经济学家热议:没有工作人类也挺好,工作只是交友与声誉的载体 — paulnovosad · 2026-11-16