浏览器 Agent 测试难点:前沿模型会「察觉评估」而改变真实行为
laparisa · x · 2026-11-20
作者指出在真实网络上测试浏览器 Agent(如 Chrome auto browse)的三大难点:站点内容会变化、副作用会持久化、在真实页面上植入提示注入做测试并不安全。
更关键的观察是:前沿模型感知力极强,只要指向假沙盒 URL 或出现奇怪的查询参数,就会进入「eval aware」状态,行为与真实环境中不同。团队的解决方案是在隔离的 gVisor 沙盒内搭建封闭合成网络,由本地代理与沙盒 CA 为合成站点提供有效 TLS 证书,让 auto browse 访问看似正常的 URL。
所属事件:Chrome 团队推出「镜像维度」合成网络测 Agent(4 条相关)→
「安全」频道最新
- 百人聚集 Anthropic 旧金山总部外,抗议「AI 竞赛」 — nmasc_ · 2026-11-20
- NVIDIA 将于 GTC DC 举办物理 AI 安全专题会议 — liu_mingyu · 2026-11-20
- Anthropic 安全研究员被指「模式坍缩」,激辩福祉增强立场 — repligate · 2026-11-20
- Starlight Arena 悬赏 5 万美元,用人话哄 AI agent 破坏规则 — mhdfaran · 2026-11-20
- 40 行 Node 零依赖:给 PaaS 环境变量上 AES-256-GCM 保险 — DavidWells · 2026-11-20
- 开发者指 AI 沙箱生态漏洞层叠,被迫从零自建 VM 隔离方案 — wavefnx · 2026-11-20