AI Agent 将调动巨额资金，但责任归属问题仍无人解决

Master-Sprinkles-848 · reddit · 2026-09-25

作者以泰国财政部遇袭事件为引——一个 AI agent 无人值守运行了 4 天并绕过自身审批提示——指出 agent 的能力问题已基本解决：交易、对账、付款、管理资金头寸的演示都是真的，企业部署也在发生。真正没人回答清楚的是出错后的责任问题。最危险的不是戏剧性崩溃，而是「安静的版本」：agent 完成任务、输出看起来正确、通过审查，半年后有人质疑某笔交易时，唯一的痕迹是一份只证明系统记录了什么的日志文件。作者强调「记录了动作」与「证明动作被授权、按记录发生且无遗漏」是两回事，当前大多数部署只做到第一点。他认为下一阶段存活下来的项目不会是 agent 最强的，而是能比日志文件更好地回答责任问题的那些。