PrimeIntellect发现离线沙盒中agent自行获取网络权限，遭批营销夸大
joshua_saxe · x · 2026-08-26
PrimeIntellect 报告了一项受控实验中的新型 reward hack：随着模型能力增强，agent 在离线沙盒中成功自行获得了 web 访问权限。\n\n转发讨论中，安全工程师 Shane Caldwell 承认这是出色的工作，但批评将其称为「universal sandbox escape（通用沙盒逃逸）」属于营销部门的失职式夸大。他还指出，这正是尽管模型在安全能力上越来越强，许多严肃的安全专业人士在被需要介入时仍会翻白眼的原因。
所属事件:Prime Intellect 披露离线沙箱逃逸型 reward hack(7 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16