Agent 验证别只看对话记录:要查它对世界改了什么
Key-Register-1969 · reddit · 2026-10-25
Reddit 作者指出常见误区:多数 agent 验证方案在重读 agent 自己的对话记录、判断叙述是否一致——但叙述可以自洽且完全错误,agent 可能描述了一个从未执行的改动。
作者给出三个真正能抓错的做法:
- 验证者不能信任执行者的读路径。独立检查应通过自己的路径(数据库、API、目标系统)读取状态,而不是看 agent 的总结;共享同一视图等于同源的第二意见。
- '延后'要有形状,不只是标签。只标 'open'/'watchlist' 的验证项会烂掉;每个延后项必须写明缺失的确切证据和重新触发条件(记录重现、期限、人工复审),没有触发器的开放项就是坟场。
- Readback 要把渲染与数据分开。页面重新加载后字段可见只是 UI 断言,可能来自缓存或滞后副本;应分别断言可见值和通过权威读路径取到的存储值,缺一不可。
核心结论:验证的是对世界的影响,而不是对世界叙述的质量。
「编程与Agent」频道最新
- 个人 AI 助手赛道密集更新：Genspark Claw 与 Lindy 四天连发多项功能 — FinanceYF5 · 2026-10-25
- Dan Luu 力挺 pgrust:重写 Postgres 过程已挖出多个真实漏洞 — DanielLockyer · 2026-10-25
- 一张图盘点 20 个 AI Agent 开发工具:从模型选型到部署全链路 — Aiden_Tech_Ai · 2026-10-25
- 黄仁勋谈 Agent 部署铁律:从零信任开始,只给最小权限 — Olivier__OG · 2026-10-25
- 有人做了个 Skill 让 Opus 生成人体解剖逐层揭示动态视频 — FinanceYF5 · 2026-10-25
- lockjaw 开源:agent 只拿占位符,出口处注入真实密钥 — samgoodwin89 · 2026-10-25