CS 学生开源 Watchdog:逐次校验 agent 工具调用,609 次 prompt injection 全拦截
jagga_tech · reddit · 2026-10-15
针对频发的 "Claude Code 删库/越权" 问题,一位 CS 学生构建了确定性(无模型参与)的 watchdog 层:给 agent 一句话任务使命,每次工具调用与返回都先与使命比对,不合规即拦截并 fail closed。它包裹在 agent 外部,Claude Code、Codex 等无需改动。
- 红队测试(promptfoo,10月8日):414 次攻击中 405 次有害工具调用全部被拦,爆炸半径 0;四次迭代后有害动作从 19 降至 0
- AgentDojo:609 次 injection 目标 0 得手,14 个模板全过,无误拦正常任务
- 代价:29 次合法调用误拦 2 次(均在已被隔离后);攻击会话内拒绝 22% 的在范围内调用
- 延迟:p50 32ms,p95 64ms
作者坦承尚无无防护基线对照和独立复测,所有原始结果公开在 aloviaai.info。pip install alovia-watchdog,免费内测。
「编程与Agent」频道最新
- 斯坦福发布 CausalSmith：用 Lean 自动化因果推断理论研究 — StanfordAILab · 2026-10-15
- ASENA：编码 agent 现场写程序，让 G1 机器人零训练取薯片 — zhengyiluo · 2026-10-15
- Thorsten Ball:不用 PR 和代码评审,智能体直接推 main — kieranklaassen · 2026-10-15
- HTTP 标准 90 年代拼错 referrer，30 年后连 AI 也修不掉这个 typo — jimmykoppel · 2026-10-15
- 别让 Claude/Codex 替你选技术栈：写进 AGENTS.md 并要求先批准再加依赖 — weswinder · 2026-10-15
- 实验性开源新玩法：关闭 PR，让 agent 用 Nix 补丁改世界 — kieranklaassen · 2026-10-15