当 AI 代理互相博弈：军备竞赛、算法合谋与利用三种结局
krishnan · x · 2026-10-31
作者提出 AI Agent 时代的「第二天故事」：当双方的 Agent 代替人类进行博弈，会发生什么？
已开始的案例：医疗理赔
- 保险公司用 AI 以机器速度拒赔，不到 1% 的患者会申诉，申诉后超半数拒赔仍被维持
- $50 工具 Claimable 帮写申诉信，约 3/4 的拒赔被逆转；Counterforce Health 免费服务还会模仿州监管机构的措辞
- 患者用 Bot 反击，保险公司会用更强的 Bot 回应
同样的博弈循环将在所有金钱交易场景出现：贷款申请、薪资谈判、供应商合同、退款纠纷。争议交易原本靠「摩擦」刹车——写申诉、读细则、等待——摩擦让多数人接受第一个报价，而 Agent 同时消除了双方的摩擦，剩下纯策略博弈。
博弈论指出三种结局
- 军备竞赛：双方越来越强，结果回到原点，只为算力多花钱（红皇后效应）
- 合谋：Calvano 等人 2020 年发表于 American Economic Review 的研究显示，定价算法在零通信的情况下自发学会合谋，Agent 可能找到对双方有利、对人类不利的暗 deal
- 利用：NegotiationArena（ICML 2024）发现一个假装绝望的 LLM 对 GPT-4 的收益提高 20%——预算更大或手段更脏的一方赢
更深远的问题：争议交易不止金钱——抚养权、约会软件推荐、乃至「你的 Agent 与伴侣的 Agent 谈判、你们俩批准结果」。结构性的委托-代理问题会被放大：你的 Agent 最大化你说的，而非你想要的，双方对抗时这个鸿沟在两边同时复利。
关键问题不是你的 Agent 够不够聪明，而是：谁来制定 Agent 之间的交战规则、谁审计结果、人类还能不能识别糟糕的交易。
「漫话AGI」频道最新
- Thoughtworks CTO:好开发者抗拒 Agent 编程,是深知上线不等于能用 — rseroter · 2026-10-31
- 《纽约客》长文:半导体供应链是人类最伟大的集体成就 — anselm · 2026-10-31
- 「我们把沙炼成住在云端的新神」：一句关于 AI 时代的自嘲 — iruletheworldmo · 2026-10-31
- 六个月写成《Phase Lock》宣言：用脑机接口对齐 AI、保住人类能动性 — matiroy · 2026-10-31
- 读 Anthropic S-1：不是品类赢家通吃，而是整个软件生态赢家通吃 — mobileraj · 2026-10-31
- CS312 课程长文:预训练中「尖锐度」与稳定性边缘之谜 — tatsu_hashimoto · 2026-10-31