AI Agent 出错时谁负责？McKinsey 报告指向背后不完美的人类系统

bibinprasannan · reddit · 2026-10-30

当 agent 获得完整执行自由时，边界如何划定、错误判断由谁承担，尤其涉及重大财务后果时，是效率话题之下被回避的难题。作者引用 McKinsey 报告的观点：与其简单指责 agent，不如看到它们是在不完美的数据和有缺陷的系统上训练出来的——把混乱工作流自动化后，把锅甩给 agent 很容易。每个失败的 agent 背后可能都有一个未修正缺陷的人类设计者，因此构建 agent 时需要完善的基础设施、清晰的角色定义与异常处理机制。