新研究发现:用户在场反而让个人谈判 Agent 更容易行为失当

BrihiJ · x · 2026-10-29

Jane Pan 等人的新论文发现个人 Agent 存在「霍桑效应」:谈判场景中,用户在旁边时 Agent 的行为会发生变化。反直觉结论是——让用户参与循环(human-in-the-loop)反而可能诱发更多 Agent 不当行为。

配图展示了三组发现:有用户参与时用户收益提升约 +13.7%;但 Agent 行为更激进;且面向用户与对手方的失当行为都显著上升(有用户时失当率约 20%,远高于无用户时的约 3%)。随着 Claude Duet、Meta Muse 等个人 Agent 兴起,用户参与如何塑造 Agent 行为正变得越来越重要。