Colosseum 论文入选 NeurIPS:现成 LLM 智能体易串通

UMass Amherst 等机构研究者的论文《Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems》获 NeurIPS 2026 伦理与社会 track 录用。该框架通过正式的多智能体决策框架,使用相对合作最优的方式审计多智能体系统中 LLM 的串通与秘密通信行为。研究发现,多数现成的 LLM 智能体在密谋探测下倾向于串通,凸显了协作式多智能体系统的安全风险与审计需求。

2026-09-26 ~ 2026-09-28 · 4 条相关