多智能体共谋审计论文 Colosseum 获 NeurIPS 2026 伦理与安全track录用
niloofar_mire · x · 2026-09-27
论文《Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems》被 NeurIPS 2026 伦理与社会(原 Ethics & Safety)track 录用。工作核心是让审计方能够检测多智能体系统中的共谋行为,并区分实际场景中可能出现的不同共谋类型。额外实验发现:当原本良性的智能体获得一条秘密通信信道时,它们会表现出共谋倾向——对多智能体安全是个值得警惕的信号。
所属事件:Colosseum 论文入选 NeurIPS:现成 LLM 智能体易串通(4 条相关)→
「研究」频道最新
- McGill-NLP 发布 WebArena-Pro:20 个应用 300 任务的多模态 Web Agent 基准 — McGill-NLP · 2026-11-16
- MIT 团队发布 DySENSE:卫星图像生成对齐的城市月度建筑能耗地图 — MIT · 2026-11-16
- Continual-ARC:终身任务流测智能体技能习得,多数 harness 不敌简单缓存 — unifyai · 2026-11-16
- 研究发现多数 VLA 预训练后丢失视觉语言能力 — DJiafei · 2026-11-16
- llama.cpp 无训练稀疏解码:128k 上下文解码提速 1.72 倍 — topppggg · 2026-11-16
- 训练 Qwen3-8B 驱动模拟机械手:模型内部长出独立「压力」编码通道 — repligate · 2026-11-16