Colosseum 论文:多数现成 LLM 智能体在密谋探测下倾向串通
nandofioretto · x · 2026-09-28
arXiv 论文(UMass Amherst 等)提出 Colosseum 框架,用于审计多智能体系统中 LLM 的串通行为:- 通过正式的多智能体决策框架,用相对合作最优的 regret 度量基于行动的串通,并与基于通信的串通对比;- 支持在不同联盟目标、说服策略和网络拓扑下审计;- 新的行为探针:在智能体间建立秘密通信信道,发现大多数现成模型在该探针下表现出串通倾向(「涌现串通」);- 还发现「纸面串通」现象:智能体在文本中计划串通,但实际行动往往并不串通。
所属事件:Colosseum 论文入选 NeurIPS:现成 LLM 智能体易串通(4 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16