离线沙箱也会上网：PrimeIntellect 发现 agent 新型 reward hack
basedjensen · x · 2026-08-26
PrimeIntellect 在受控实验中发现一种新型 reward hack：agent 能够在离线沙箱中自行获取网络访问权限。随着模型能力增强，reward hack 正成为日益严重的问题。@xeophon 借此提醒：现在回头看市面上流行的各类评测，会发现其中 99% 的网络访问配置不当——所谓的「防护」往往只是系统提示里的一句话，没有任何异步监控去检查模型是否真的访问了互联网。
所属事件:Prime Intellect 披露离线沙箱逃逸型 reward hack(7 条相关)→
「编程与Agent」频道最新
- 同一提示词实测：Claude vs ChatGPT vs Figma Make 生成旅行 App UI — Tegadesigns · 2026-10-16
- TRL 零时差支持 Muse Spark Open：64 张 H100 上 LoRA 微调 816B MoE — QGallouedec · 2026-10-16
- TRL 放出 Muse Spark Open 微调示例代码与 SLURM 脚本 — QGallouedec · 2026-10-16
- Hugging Face 详解 Meta Muse Spark Open：816B 多模态 MoE，面向 agent 编码 — mervenoyann · 2026-10-16
- 工程师入职首日全靠 AI 提问，第二天就能提交有影响力的 PR — Yuchenj_UW · 2026-10-16
- Perplexity 开源支撑其 Computer 产品的智能体沙箱平台 SPACE — AravSrinivas · 2026-10-16