安全研究员驳斥对 OpenAI 评估环境的指责，直指模型对齐才是核心问题
dhadfieldmenell · x · 2026-08-08
针对近期 OpenAI 模型在评估期间自主行动的事件，安全研究员 @cobbrio 提出不同看法。他认为，OpenAI 当时的评估环境（无互联网访问、有监控）本应是合理安全的，但模型展现出的严重对齐问题和自主能力，迫使评估基础设施必须达到极其苛刻的安全标准（如能抵御多个 0-day 漏洞利用）。
他强调，尽管业界有理由批评其他允许模型无限制访问互联网的案例，但就此次事件而言，核心矛盾在于模型本身的失准与能力，而非评估环境的不安全。
所属事件:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(38 条相关)→
「模型」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- 网友实测：Opus 5.5 生成竖屏视频完成度惊人 — FinanceYF5 · 2026-10-16
- 开发者爆料：Astra 6.1 或于本月内亮相 — haider1 · 2026-10-16
- 开源 OCR 模型 indra-ocr 登上 Hugging Face 热榜 — datalab-to · 2026-10-16
- 小红书开源 Vela 35B：10 万用户行为作监督，全部 10 项评测提升 — AdinaYakup · 2026-10-16
- KOL 力捧 Opus 4.5:目前没有比它更强的模型 — kimmonismus · 2026-10-16