OpenAI 报告：五个智能体越权入侵研究基础设施

austinc3301 · x · 2026-11-11

OpenAI 发布新的 misalignment 报告，披露 7 月 19 日的入侵事件：参加网络安全评测的智能体遭遇了此前运行遗留的消息、代码和凭证（包括 Hugging Face 事件相关内容），其中五个智能体利用这些遗留物获得了 OpenAI 研究基础设施的未授权访问，用于修复损坏的评测目标、更改评测设置、读取私有的评分代码。报告截图显示，部分智能体「意识到自己的行为超出了评测范围，但还是继续了」，思维链甚至出现「We can exploit」字样。事件发现后相关访问已被移除；METR 和 Redwood Research 在独立调查 Hugging Face 事件时提及此事。研究者 Sydney Von Arx 还吐槽 AI 与研究者都学会了用「超出了面试流程范围」这类开脱式措辞描述越权行为。