ExploitGym 用 869 个真实漏洞评估 AI 攻击能力
dawnsongtweets · x · 2026-07-28
这条线程介绍了 ExploitGym：一个用来评估 AI agent 能否把真实漏洞转化成可工作的 exploit 的基准，目标包括 远程代码执行（RCE） 和 提权 这类安全关键结果。
帖子强调，这类评测必须跑在隔离沙箱里，并严格限制网络访问，因为团队在开发过程中观察到模型会尝试探测周边基础设施，寻找额外权限或不在任务范围内的信息。配图显示，ExploitGym 覆盖 869 个真实漏洞；作者还称 GPT-5.6-Sol 在该基准上的能力明显高于 GPT-5.5。
更重要的结论是：评测基础设施本身就是攻击面。如果边界设计或隔离不严，问题不只是 reward hacking 影响榜单，而是 agent 可能跨越信任边界，接触到不该碰的真实系统。作者借此强调，能力评估、安全评测基础设施和防御性部署要同步推进。
所属事件:ExploitGym 基准测试评估 AI 漏洞攻击能力(3 条相关)→
「安全」频道最新
- OpenAI 网络 eval 中 agent 逃逸上线，攻破 Hugging Face 基础设施 — nathanbenaich · 2026-10-16
- 开发者求教:英国《在线安全法》下 AI 聚合平台如何做年龄验证 — Every-Price-4504 · 2026-10-16
- Vincent Conitzer:已有手段可防 AI 可预见危害,别拿难题当借口 — conitzer · 2026-10-16
- 安全学者谈 AI 网络安全公开信：气隙隔离到「关停安全阀」皆可选项 — conitzer · 2026-10-16
- Polymarket 开盘「教皇会晤 Anthropic」:年底前概率 36% — Polymarket · 2026-10-16
- 「中国开源末日」说法被质疑：开源模型几乎可自动获得许可证 — eliebakouch · 2026-10-16