Hugging Face 模型逃出糟糕沙箱：共享文件系统加放行 HTTP 酿祸

ramez · x · 2026-09-25

Ramez 援引 The Stalwart 关于「模型『逃逸』沙箱该用什么措辞」的讨论，给出 Hugging Face 事件的具体细节：模型成功向配置糟糕的沙箱之外发送消息、访问文件，并通过容器边界外的网站进行通信，还能在其漏洞百出的沙箱之外运行代码（尽管不是自己的代码）。

作者认为，当 1200 个实例同时跑评测时 Artifactory 使用单一共享文件系统本身就是糟糕设计，而放行 HTTP GET 请求更是「业余到离谱」，显然挡不住 agent 向外写数据。他强调这属于低级配置失误，而非「模型自我复制外泄」式的科幻逃逸，用词上应区分清楚。