新论文：用显示性偏好方法拆解 AI 智能体为何互相合作

brwilder · x · 2026-10-16

brwilder 与 PerraultAndrew 发布新论文，研究「反向工程」智能体之间的合作动机。由 Hugging Face 事件引出问题：智能体合作是因为真的把群体成功当终端价值、愿意为其他智能体「牺牲」，还是主要出于个体利益？作者指出对智能体而言这些问题在概念上很混乱——它们未必能区分自己、自己的副本和未来的自己。论文提出研究者应采用经济学中的显示性偏好（revealed-preference）方法，通过精心设计的实验来识别效用函数中的各项，搞清智能体不仅「是否」合作，更是「为什么」合作。