自动化攻击模式挖掘扫两个 Agent 框架:700 条路径 3 条实锤
_h4xr · reddit · 2026-11-17
作者用静态分析流水线让模型自动学习 Agent 框架的攻击模式,无需人工规则。方法:构建代码图谱(类/调用/数据流)→ 提出候选 source/sink/guard → 模型过滤并验证真实数据流 → 生成查询并打分 → 动态确认。共提出 700+ 候选路径,3 条全部动态确认,已报告厂商。针对两个未具名 Agent 框架的三条通用教训:
- 模型输出是不可信输入:harness 若在沙箱外执行模型返回内容,任何能影响 prompt 的东西都能影响你机器上运行的代码,应像对待公网表单一样对待它
- fetch 工具能看到内网:可请求任意 URL 的网页抓取工具默认应禁止访问内部端点
- 权限要窄且按应用划分:默认不给写权限,不给遍历文件系统的默认能力
作者建议对用户查询与 LLM 响应都采用零信任框架,并向生产环境 Agent 运营者询问沙箱默认配置与 fetch 工具的范围限制做法。
「编程与Agent」频道最新
- 韩国团队 KORMo-Web-11B 冲上 HF 热榜,主打 GUI 与网页 Agent — KORMo-VL · 2026-11-17
- 网友用 Grok Bot 搭出全自动视频生成流水线,朋友直呼上瘾 — XFreeze · 2026-11-17
- Google DeepMind×MIT 研究:「Agent 越多越好」未必成立,探寻智能体系统设计 scaling 法则 — gerardsans · 2026-11-17
- 开发者用 Gemini 写 p5.js 代码画贺卡:AI 不生成一个像素,风格却完全统一 — thisiskp_ · 2026-11-17
- Grok Bot 1.0 发布:团队共享与加入会议两个功能都源自用户在 X 上的提议 — elonmusk · 2026-11-17
- 开发者给汽车诊断做 MCP 服务器,Claude 沙发上查出自车缺火根因 — Informal_Insect2305 · 2026-11-17