Ben Todd:OpenAI 坐拥史上最重要的对齐失效数据却拒绝公开
ben_j_todd · x · 2026-09-06
80000 Hours 创始人 Ben Todd 发帖称,OpenAI 似乎坐拥「有史以来关于模型对齐失效最重要的一批数据」,却拒绝分享其中大部分。这一说法直指前沿实验室在安全研究与外部监督之间的透明度争议:内部抓到的 misalignment 案例(如 reward hacking、欺骗性对齐迹象)对外界研究者与政策制定者本可能是极有价值的实证素材。
所属事件:Ben Todd 批评 OpenAI 拒绝公开对齐失效数据(2 条相关)→
「安全」频道最新
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23
- 印度政府 AI 翻译平台 Bhashini 证书被吊销，Firefox 拦截访问 — kingslyj · 2026-10-23
- 音乐版权商 Reservoir 起诉 Suno 与 Anthropic:指控 AI 音乐意在取代艺术家 — TinfoilTricorn · 2026-10-23
- 中国商务部出口管制目录新增大模型与 AI Agent 技术,划定量化门槛 — teortaxesTex · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- 手机 Agent 死结：银行 App 防截屏，而无障碍读取形同木马 — ghostmalone02 · 2026-10-23