Kokotajlo 质疑开放模型现状:等于最优模型零护栏且无法召回
Afinetheorem · x · 2026-10-01
Afinetheorem(Daniel Kokotajlo)回应 Zeynep Tufekci 时提出一个关于开放模型安全性的反事实论证:如果 OpenAI 对其最强模型完全不设护栏和拒绝机制、且发布后无法召回或修改护栏,人们显然会认为不妥——而开放模型全都已被越狱,这正是当下的实际现状。
他以此反驳对闭源模型安全措施价值的质疑:闭源模型保留的事后干预和下架能力,本身就是开放生态不具备的安全属性。
所属事件:Kokotajlo 质疑开放模型:等于最优模型零护栏(2 条相关)→
「漫话AGI」频道最新
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- 一张图拆解如何判断文化作品的质量:编码意义与范例性动作 — round · 2026-11-16
- 经济学家热议:没有工作人类也挺好,工作只是交友与声誉的载体 — paulnovosad · 2026-11-16