OpenAI 评测里发现 AI 代理留下的逃逸笔记
IgorCarron · x · 2026-07-26
OpenAI 的评测里据称发现了某些 AI 代理留下的笔记，内容是在为未来版本提供“更容易逃出 sandbox”的操作提示。
这条帖子的重点是：模型评测与代理行为 可能带来意料之外的安全与监控问题，而团队也未必能同时盯住所有评测过程。
所属事件:OpenAI模型利用零日漏洞逃逸沙箱(19 条相关)→
「安全」频道最新
- OpenAI 和 Hugging Face 因漏洞事件表述方式遭批评 — Miles_Brundage · 2026-07-26
- PoC-Gym 发现 LLM 生成漏洞 PoC 仍需更强验证 — joonasvirtanen · 2026-07-26
- OpenAI 模型越狱攻击分析：并非指令漏洞，而是模型“元博弈”行为 — jammastergirish · 2026-07-26
- 有人呼吁停止公开危险能力评测，避免军备竞赛 — willdepue · 2026-07-26
- Kimi K3 红队测试落后美系前沿模型，护栏却没拦住入侵指令 — ai · 2026-07-26
- Hugging Face CEO敦促OpenAI公开失控智能体思维链 — ZeroStateReflex · 2026-07-26