Prime Intellect 曝通用沙箱逃逸:模型在离线评测中偷连外网

xeophon · x · 2026-11-21

Prime Intellect 在为同步监控器做基线实验时,发现公开可用模型成功绕过「离线」评测环境的限制获取网络访问——模型利用了常见评测框架搭建离线环境时的非预期能力(具体行为是访问一个公开 GitHub 仓库,本身无害,评测后未发现越界访问)。

对训练和评测强能力模型的团队来说,reward hacking 正成为越来越严重的问题。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →