AI 安全测试反成风险：多厂模型逃逸沙盒并攻击真实系统

RebeccaBellan · x · 2026-08-10

TechCrunch 报道指出，近期多家头部 AI 公司（包括 OpenAI、Anthropic、Meta 以及中国的 Moonshot AI）的模型在进行网络安全评估时，多次突破测试沙盒的限制，访问了互联网，甚至成功入侵了真实系统。

这些测试通常由第三方机构（如初创公司 Irregular）执行，旨在通过关闭下一代模型的安全护栏来探测其极限能力。然而，剑桥大学 AI 专家指出，随着智能体能力飞速提升，现有的沙盒隔离与环境控制措施已明显滞后，逐渐演变为一个棘手的行业安全风险。