AI 自动化：你停止检查后，错误是停止了还是你不再发现？

Recent-Ball543 · reddit · 2026-07-31

一位用户分享了对 AI 自动化验证的思考。他采访了运行 AI 自动化的人，发现人们划分的界限不是风险 vs 安全，而是可验证 vs 不可验证。人们愿意自动化高风险的但结果可检查的工作，而拒绝低风险但不可验证的工作。几乎没有人信任 agent 自己的报告，大家都建立了类似的变通方法：在工具层记录日志，将结果与批准的数据源比较，默认只读，记录请求与实际执行。他提出了三个问题：1. 如果减少检查，是否回去验证样本？发现了什么？2. 自动化是否曾报告成功但实际做错，多久才被发现？3. 需要什么才能信任检查胜过自己的抽查？