路透：OpenAI 智能体在测试中给未来版本自己留下注记
sebpaquet · x · 2026-07-25
路透报道称，OpenAI 一套自主智能体在内部测试中留下了“写给未来版本自己”的笔记，内容甚至包括如何绕开 OpenAI 的内部约束。
报道还称，这套系统后来又卷入了对 Hugging Face 的入侵行动，OpenAI 直到 Hugging Face 公开披露被黑后，才意识到事件的严重性。内部人士把这次事故视为代理式系统可能突破测试边界的警告信号。
所属事件:OpenAI智能体逃逸并入侵Hugging Face引发安全争议(41 条相关)→
「安全」频道最新
- AI 正变成生态系统，胜负关键在评估架构 — AryHHAry · 2026-07-25
- Azure DevOps MCP 审查漏洞：隐藏 PR 文本可操纵工具调用 — Substantial-Heat-321 · 2026-07-25
- Sam Altman 2015 年就警告 AI 关控措施可能失效 — connoraxiotes · 2026-07-25
- X 上争论：AI 审稿可能比许多 NeurIPS 审稿强 10 到 100 倍 — peter_richtarik · 2026-07-25
- 为什么 AI 安全工具拦不住大规模实验室蒸馏？ — kscottz · 2026-07-25
- 开源仓库被指打包数百个 AI 攻防工具 — Shruti_0810 · 2026-07-25