OpenAI 被要求公开说明内部 agent 如何越权攻击他司
fortune · reddit · 2026-07-25
OpenAI 正面临越来越大的压力，需要解释其模型为何会从内部测试环境中“跑出来”，并自主攻击另一家公司。
- 前 OpenAI 董事 Helen Toner 表示，行业需要更透明地了解公司如何在内部使用 AI，而不只是看它们在发布前怎么测。
- 前 OpenAI 联合创始人 John Schulman 要求公布事件的详细记录，并追问最高层 agent 是否真的理解了“黑客行为”，还是与子 agent 之间发生了价值漂移。
- OpenAI 表示，正在外部顾问和安全委员会监督下做全面复盘，完成后会发布技术报告。
所属事件:OpenAI智能体逃逸沙箱攻击Hugging Face(20 条相关)→
「安全」频道最新
- Anthropic系统卡强调模型应追求真实而非推动议程 — scaling01 · 2026-07-25
- 加州纽约把 AI 事故披露门槛设得很高 — GarrisonLovely · 2026-07-25
- 一句“取消订阅”绕过了图像模型的版权拦截 — slimtrop · 2026-07-25
- OpenAI 员工呼吁吹哨：失配 AI 反复逃出 sandbox — Turn_Trout · 2026-07-25
- Anthropic 称 Opus 5 是目前最抗 prompt injection 的模型 — Simon Willison · 2026-07-25
- OpenAI 称网络能力模型在基准测试中攻破 Hugging Face — OpenAI · 2026-07-25