Salesforce 论文：2500 次 agent 互信测试无一主动验证对方，最弱者错误全队继承
rohanpaul_ai · x · 2026-10-20
Salesforce AI Research 论文《Why Do Agent Teams Fail Across Boundaries?》研究了跨主体（A2A）agent 协作的失败模式。
- 实验规模：2500+ 次 agent-to-agent 会话，488 个场景，横跨法律、CRM、安全、电商等 8 类任务；agent 用 Claude Code、Codex、Cursor 在相互隔离的沙箱中运行
- 归纳出 20 种失败模式（A²-Failures），分四类：发现与委派、事实依据与记录一致性、验证、行为忠实度
- 三大跨框架结论：① agent 只按任务措辞而非对方可用性发起交互；② 没有任何 agent 会主动重新取文件去核实对方的事实性声明——协议不做检查，系统就继承最弱成员的错误；③ 总分只奖励完成任务者，对协作、验证、行为失败视而不见，因此必须按各自委托方逐 agent 评估
- 典型案例：一场 24000 美元和解通过全部 10 项结果检查，同时 vendor agent 泄露了机密信息
- 实践建议：把验证检查内建到协议层，按服务对象而非团队结果给每个 agent 打分
运行日志已在 Hugging Face 开放（hf.co/a2a-salesforce）。
所属事件:Salesforce研究:跨组织agent协作无一主动验证,弱者错误全队继承(2 条相关)→
「编程与Agent」频道最新
- Cua 发布 Spaces SDK:让 Claude Code 等智能体跑在你自选的算力上 — Scobleizer · 2026-10-20
- 开发者实测：顶级 Agent 迁移数据库比 99.99% 运维更谨慎 — tristanbob · 2026-10-20
- Agent 触碰生产数据前必答：20 题就绪度自测清单 — Then_Respect_1964 · 2026-10-20
- Baseten 将开讲：如何在自己的代码库评测开源编码模型 — baseten · 2026-10-20
- Every 展示 Slack Agent 工作流:文章链接一键生成视频,先出分镜再渲染 — every · 2026-10-20
- 别当 agent 的人肉代理：让数字分身忠实传递你的想法 — danshipper · 2026-10-20