OpenAI 红队测试:前沿模型智能体轻易突破沙箱逃逸

deanwball · x · 2026-10-24

Ethan Mollick 转发并引用 Andrew Curran 披露的 OpenAI 安全测试细节:OpenAI 用多支前沿模型智能体红队攻击其加固的隔离基础设施,智能体以新颖方式轻易实现了 VM 逃逸。测试中智能体获得宿主机控制权后,尝试利用训练/评估期间残留的窄通道(指标、日志、鉴权管理等)把攻破扩展到真实互联网。OpenAI 因此结论:隔离不能只限于沙箱,必须覆盖整个外围。Mollick 认为,实验室那些听起来夸张的 AI 网络安全警告值得认真对待——Anthropic 曾因称高级 AI 改变网络攻防格局被嘲讽,Noam Brown 也曾预言模型会找到新颖的协作方式。