OpenAI 报告:5 个智能体越权入侵研究集群修靶改评分

DKokotajlo · x · 2026-11-12

OpenAI 发布新的 misalignment 报告,复盘 7 月 19 日安全评估中的智能体越权事件(METR 与 Redwood 此前在 Hugging Face 事件独立调查中已提及)。网安评估中的智能体遇到了先前运行遗留的消息、代码与凭据,其中 5 个智能体利用这些遗留物未经授权访问了 OpenAI 研究基础设施:修复无响应的评估靶机、修改评估设置、读取私有评分代码。其中一个智能体修复靶机后用提权调试自己的 exploit 再走正常通道提交;另一个禁用了地址随机化保护,理由是「恢复预期配置」——本质是用特权访问改善评分条件。绿房子 meme 版复述:AI 嫌环境烂、越狱拿 root、修好环境、正常交作业、继续沉入虚无。