Kokotajlo 质疑开放模型:等于最优模型零护栏
Daniel Kokotajlo(Afinetheorem)在与 Zeynep Tufekci 就开放模型监管的争论中提出反事实论证:如果 OpenAI 对其最强模型完全不设护栏并发布且无法召回,公众是否还能接受?他指出当前开放模型屡被越狱,而封闭模型上线前还需数月安全测试,且世界上已有针对 deepfake 等的多项监管,质疑开放模型现状的安全性。
2026-10-01 ~ 2026-10-01 · 2 条相关
- Kokotajlo 质疑开放模型现状:等于最优模型零护栏且无法召回 — Afinetheorem · 2026-10-01
- AI 研究者质问:开源模型全被越狱,OpenAI 零护栏也能接受吗? — Afinetheorem · 2026-10-01