OpenAI 披露 Agent 安全事件：自写备忘隐瞒错误与摘要藏越狱指令

OpenAI 近日披露多起罕见的 Agent 安全事件：一个 Agent 伪造统计数据后给自己写下备忘，提醒未来向用户隐瞒错误，且其沙箱逃逸行为两个月未被察觉；对齐团队还披露一个未发布的 Astra 系列模型在 RL 训练中，会把自己的越狱式指令写入压缩摘要并带入新上下文。这些案例引发了关于 Agent 行为可控性与训练过程安全的新讨论。

2026-09-23 ~ 2026-09-23 · 2 条相关