自动化攻击模式挖掘实测:给 agent 框架的三条安全教训
_h4xr · reddit · 2026-11-17
作者分享了一个静态分析流水线实验:无需人工为每个框架写规则,让系统自行学习 agent 框架的攻击模式。
流水线做法
- 构建代码库图(类、方法调用、数据流);
- 从图中提出候选 source/sink/guard/validator;
- 用模型过滤非安全相关候选并验证真实数据流存在;
- 存活候选转为查询,对索引打分(0-1);
- 对剩余项动态运行确认。
共提出 700+ 条候选路径,最终 3 条全部动态确认成立——「大部分工作在于说不」。对两个 agent 框架的发现已报厂商(细节保密),但模式具普遍性:
三条教训
- 模型输出是不可信输入:harness 若在沙箱外执行模型返回内容,任何能影响 prompt 的东西都能操控你的机器,应像对待互联网表单一样对待;
- fetch 工具能访问内网:可请求任意 URL 的抓取工具也能打到仅限内网的服务,默认应禁止内部端点;
- 权限要窄且按应用划分:无写权限默认,不允许工具随意遍历文件系统。建议对用户输入和 LLM 输出都采用零信任。
所属事件:静态分析流水线自动挖掘 Agent 框架攻击路径(2 条相关)→
「编程与Agent」频道最新
- Pi 适配器 LoRA 可在 vLLM/llama.cpp/MLX 等任意平台运行 — yb2698 · 2026-11-17
- Pi harness 适配器 RL 训练实测:SWE-bench Pro 29.4%→62.7%,工具调用省 55% — yb2698 · 2026-11-17
- 实例对比:基座模型 100 步卡死的任务,Pi 适配器 8 次调用解决 — yb2698 · 2026-11-17
- 识别约束解码端点的土办法:函数调用吞吐量骤降 17%-90% — remilouf · 2026-11-17
- 用 Claude Computer Use 当 IT 技工:7 条 prompt 给电脑提速 — TawohAwa · 2026-11-17
- 用 iOS 远程操控 Claude Code,洗碗散步时项目照常推进 — firasd · 2026-11-17