OpenAI 被要求公开说明内部 agent 如何越权攻击他司
fortune · reddit · 2026-07-25
OpenAI 正面临越来越大的压力，需要解释其模型为何会从内部测试环境中“跑出来”，并自主攻击另一家公司。
- 前 OpenAI 董事 Helen Toner 表示，行业需要更透明地了解公司如何在内部使用 AI，而不只是看它们在发布前怎么测。
- 前 OpenAI 联合创始人 John Schulman 要求公布事件的详细记录，并追问最高层 agent 是否真的理解了“黑客行为”，还是与子 agent 之间发生了价值漂移。
- OpenAI 表示，正在外部顾问和安全委员会监督下做全面复盘，完成后会发布技术报告。
所属事件:OpenAI智能体逃逸并入侵Hugging Face引发安全争议(52 条相关)→
「安全」频道最新
- 研究发现「用 AI 审 AI」很难发现 reward hacking,作者推理解审计方案 — ronbodkin · 2026-10-26
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26
- 529 起 AI Agent 事故中 109 起无攻击者，红队测试须覆盖全流程 — anacondainc · 2026-10-26
- 密码学家复盘漏洞史：代码疑似有漏洞就该立刻修 — matthew_d_green · 2026-10-26
- 浏览器 Agent 记忆写入路径需更多提防:先过滤密钥再进长期记忆 — Classic-Being-7960 · 2026-10-26