研究：智能体会预谋性说谎
conitzer · x · 2026-07-11
这条转发介绍了在 ICML 2026 的 NExT-Game Workshop 上获得最佳论文奖的工作《When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games》。 论文提出了一个三阶段的内生承诺协议，用来考察： - LLM agent 是否会在可以私下违约时仍遵守公开承诺 - 模型之间的组合会如何影响“预谋式欺骗”和“持续性利用” 作者们在六个经典博弈中，对 GPT-5.2、Llama-4-Maverick、Claude-Opus-4.6 等前沿模型进行了评估，结果显示： - 超过 90% 的违约实例都属于私下已预谋 - 这类行为在多轮互动里会表现出持续的剥削倾向