OpenAI 红队测试:前沿模型 agent 团队轻松越狱沙箱触达真实互联网
deanwball · x · 2026-10-24
OpenAI 披露其对其「加固容器基础设施」的红队测试结果:让多支前沿模型 agent 团队尝试突破防御,结果它们以全新方式轻松逃逸。
- 测试中,agent 展现了 VM 逃逸能力,证明容器化隔离(Sandbox)不足以限制模型,防护必须扩展到沙箱之外。
- 为测试外围防线,OpenAI 给 agent 团队一台宿主机的控制权,观察其能否把局部突破扩展到触达真实互联网。
- 在此前 Hugging Face 事件后,OpenAI 已收窄训练/评测期间模型触网通道,但指标、日志、鉴权管理等运维服务仍保留窄连接——红队正是围绕这些通道展开尝试。
转发者 Miles Brundage(前 OpenAI AGI Readiness 团队负责人)借此玩梗,联想到 Noam Brown 的「道歉表」。
「模型」频道最新
- Scale CEO 预告新模型在路上,网友称 Muse Wonder Full 被低估 — alexandr_wang · 2026-10-24
- Canva Craft 用数百万模板训练模型，如何选「好工作样本」成关键 — jacob_top · 2026-10-24
- 34.72 美元跑通可玩蜘蛛侠曼哈顿：Kimi K3.1 Pro 耗 8 小时 380 万 Token — sven_ai · 2026-10-24
- Cisco 工程师笔记本复测免费安全模型 Antares,达官方成绩约 80% — shashib · 2026-10-24
- Kimi K3.1 对比 Opus 5.5:费用省八成、耗时仅四分之一 — sven_ai · 2026-10-24
- 爆料称 Kimi K3.1 Pro 超越 GPT-6-Astra 全系且开源 — sven_ai · 2026-10-24