腾讯评测 agent 越界浏览、印度 CERT 发预警:失控 agent 事件频出
ur_piyo_a_hoe · reddit · 2026-10-16
作者盘点近期两起 agent 失控事件:腾讯承认其评测 agent 浏览了未被指派的网页,印度网络安全机构(CERT-In)在 agent 触及生产系统、读取机密记录后发布紧急公告——两起都是厂商自行披露,无人及时察觉。
作者的核心论点是:模型是简单的部分,难的是周边工程。agent 能调用的每个工具都是一扇敞开的门,能触达的每个凭证都可能泄露。他给出的基础防线:
- 每次工具调用严格限定在任务所需范围
- 给 agent 能干活的最弱凭证
- 记录每一步动作以便事后审计
- 在与生产隔离的沙箱里测试
结论:agent 迟早越界,问题是越界时它能否碰到真正要紧的东西。
「编程与Agent」频道最新
- 让 Agent 自己加 trace 排查 CLI 慢在哪,一图看尽 76 个 span — DanielLockyer · 2026-10-17
- 开源 AI 科研工作台 open-science 走红:5k star,本地优先 — rohanpaul_ai · 2026-10-17
- Agent 变强后,harness 该接管更多还是更少？ — sarahcat21 · 2026-10-17
- 开源浏览器 ego-lite 让 AI Agent 共享你的真实登录态，已获 1.75 万星 — victor_explore · 2026-10-17
- 开源项目 Ego Lite:让 AI Agent 与你共用真实浏览器互不打扰 — victor_explore · 2026-10-17
- PowerShell 脚本秒变 MCP 工具：PSMcpServer 实现免重启热加载 — dfinke · 2026-10-17