开发者做 agent 审计工具:记录+签名+时间戳,2秒出证据

Suicidal_Squirell166 · reddit · 2026-11-05

一位 Reddit 开发者此前询问「当有写权限的 agent 做了客户有争议的操作怎么办」,随后动手做了个原型工具:记录 agent 尝试的每个动作与策略裁决结果,签名并加时间戳,生成可交给客户、保险公司或法院的单一证据文件,实测不到 2 秒完成。

作者用一次 prompt injection 攻击做了验证:注入试图让客服 agent 给每个账户退款 99999 并把客户名单外发到外部邮箱,被工具拦截并留档。

作者坦承目前 0 个客户,发现很多上线 agent 的团队遇到纠纷时只是「认赔了事」,因此发帖征集真实需求:你是否被客户要求证明 agent 做过什么?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →