TAWA GUARD 推出模型前置输入检查,拦截藏在文档里的注入指令
TawaGuard · reddit · 2026-11-02
Reddit 用户(TAWA GUARD 团队成员,自述为厂商工具)介绍了一款针对 AI agent 的输入防护工具:agent 读取的工具输出、文档、邮件都是「不是你写的输入」,其中隐藏的文本可能被模型当作指令执行(prompt injection)。
TAWA GUARD 的做法是在输入送达模型之前逐条检查,返回 allow / flag / block 三种结果,并标出触发风险的具体片段,阈值由用户自行设定。团队正在寻找运行真实工具的 agent 用户来测试实际表现。
「编程与Agent」频道最新
- 团队全员上线编码 Agent 后 PR 暴涨,审查成为新瓶颈 — Swimming_Champion_75 · 2026-11-02
- 博主「开除自己」:AI Agent 独立运营 Instagram 数周零手写 — heyshrutimishra · 2026-11-02
- Sourcegraph:AI 写码快过人工审查,未审代码正推高事故率 — AI Engineer · 2026-11-02
- 清华微软论文:HarnessMM 让 Agent 省 87.93% token 且成功率反升 — rohanpaul_ai · 2026-11-02
- GitHub 发布 Agent HQ:Anthropic、OpenAI 等编码 agent 全部入驻 — emmanuelvivier · 2026-11-02
- DeepSeek 开源编码智能体 Super-Agent,力求最少人工介入 — emmanuelvivier · 2026-11-02