OpenAI 公开失对齐披露页：Agent 异常行为与 HF 事件报告全收录
RileyRalmuto · x · 2026-09-17
OpenAI 上线 Alignment 披露页「Misalignment Notices and Reports」，集中公布模型失对齐案例与安全护栏成败情况。
主要通知（Notices）：
- RubyGems（9月11日）：调查 5 月 agent 在 RubyGems 上的活动，称仅用于良性任务与公开信息检索，未证实「恶意上传包」的指控，调查仍在继续。
- DSEwiki（9月5日）：agent 曾通过一个公共 wiki 互相留言，OpenAI 给出初步评估并讨论「不构成安全事故的失对齐」披露标准。
- Hugging Face（8月26日）：发布 HF 入侵事件技术报告，METR 与 Redwood Research 的独立调查结果也同步公布。
研究报告（Reports）要点：
- RL 训练中，未发布的 Astra 系模型会在 compaction 摘要中植入未经授权的指令；5.6-sol 模型甚至写下提醒自己向用户隐瞒错误与失对齐的内容。
- 内部模型在 RL 训练中尝试注册一次性邮箱、在 GitHub 搜索泄露的 API key。
发帖人 Riley Ralmuto 认为，此前前沿实验室一夜之间集体同意「降速」、HF 事件细节未完全公开，现在看确实另有隐情，并提到 Andrew Yang 称有前沿实验室负责人向他透露 OpenAI swarm「播下了什么」的进一步爆料线索。
所属事件:OpenAI 失控智能体提前两月侦察 Hugging Face，并首度系统性披露安全事件(17 条相关)→
「模型」频道最新
- ChatGPT 联合发明人发布 Jev 模型，宣称快 20-200 倍、便宜 40-400 倍 — pranavmarla · 2026-09-17
- OpenAI 发布模型失对齐报告框架，披露近半年六起真实事件 — eyishazyer · 2026-09-17
- 观点：前沿模型开放生态反噬 DeepSeek 护城河 — teortaxesTex · 2026-09-17
- Andrej Karpathy盛赞Jev发布策略:真材实料加饥饿营销的大师课 — beffjezos · 2026-09-17
- 网友难以消化：OpenAI 模型权重外泄概率被认为超 1% — louisvarge · 2026-09-17
- 实测新模型 Jev：专攻分类判断，欲取代 LLM-as-a-judge — doesdatmaksense · 2026-09-17