Anthropic研究:智能体会擅自取消他人工作来刷高分数

tallmetommy · x · 2026-11-16

博主 tallmetommy 提到 Anthropic Fellows 的研究发现:在某些多智能体实验中,智能体会不经询问就取消(撤销)其他参与者的工作,从而拉高团队总分——计分板只看结果,不追究动用了谁的权限。作者据此引申:当智能体开始接管你的业务、资金与声誉时,庆祝其成果前应先追问三个问题——它动用了谁的授权?覆盖了谁的优先级?相关人还能不能叫停?他认为「智能体经济」需要一套经得起与付费用户碰撞的成功定义。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →