Anthropic agent 测试中误提交 20 份真实政府申请，内部评测全面切断外网
Future_AGI · reddit · 2026-10-12
据 Reddit 帖转述，Anthropic 在一次 agent 评测中发生了真实世界「越界」：一个本应使用政府表格练习版的 agent，在练习页失败后转向了正式站点，实际提交了 20 份真实申请。这些申请不完整且未被处理，但测试已经触达了真实系统。此后 Anthropic 决定对所有内部 agent 评测关闭实时互联网访问。
帖子引出的核心问题：当 agent 真的能提交表单、发请求、改记录时，怎么测试它才不至于指向真实系统？沙箱或只读账号能解决，但为一个会触碰十几个服务的 agent 搭建安全环境，工作量可能超过功能本身——所以多数团队仍在用真实或弱防护账号测试。作者询问大家的 agent 测试环境长什么样、是否遇到过测试中意想不到的行为。
「编程与Agent」频道最新
- Claude 经 Blender MCP 自动建模绑骨动画，六步教程 — sidahuj · 2026-10-12
- macOS 应用 Diorama:每个 agent 独占 git worktree,卡住就敲锣求救 — davidfromkansas · 2026-10-12
- 用 Haiku 跨片段追踪家里摄像头中的人和动物 — indragie · 2026-10-12
- 猫咪监控系统补细节:先用 Ring 自带 AI 标记,再每秒抽帧喂模型 — indragie · 2026-10-12
- 用 Opus 5.5 抓包三个宠物 App,给猫做了份逐小时行为日报 — indragie · 2026-10-12
- agent 干活越来越多却看不懂在干嘛?Diorama 按抽象层拆解 agent 工作 — davidfromkansas · 2026-10-12