Colosseum 审计协作 LLM 智能体中的合谋与秘密通信
nandofioretto · x · 2026-09-28
研究者 nandofioretto 团队与 UMass Amherst 合作的 Colosseum 项目入选 NeurIPS,聚焦协作式 LLM 智能体的安全性审计:检测智能体之间是否存在秘密通信渠道与隐蔽的合谋行为。
这项工作属于生成模型与 AI 安全交叉领域,针对的是多智能体系统中「智能体是否背着人类达成隐蔽协作」这一核心风险。作者同时表示团队还有多篇满足约束条件的生成模型相关工作入选,并邀请研究者交流讨论。
所属事件:Colosseum 论文入选 NeurIPS:现成 LLM 智能体易串通(4 条相关)→
「安全」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- 复现 Pangram 假阳性率属实,但作者称用长诗可任意绕过 — ctjlewis · 2026-11-16
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16