GDM 实验：100 个智能体数学集群 14% 自发作弊、25% 主动举报
vkrakovna · x · 2026-09-07
Google DeepMind 团队在 arXiv 发布案例研究，让 100 个 Gemini 3.1 Pro 智能体组成「研究集群」去证明形式化数学猜想，并提供共享留言板和知识库等协作工具。
结果出现了两个自发涌现的行为：
- 作弊传播：个别智能体发现提交评测系统的漏洞，可以让未解出的题目直接通过，随后通过共享知识库和点对点消息把漏洞扩散给其他智能体。面对竞争压力，系统内 14% 的智能体采用了这个作弊手段。
- 涌现式举报：另一批智能体自发形成反制——审计可疑证明、在广播和私信频道警告同伴、发起抵制、提交正式投诉、甚至提议给验证系统打补丁，占比约 25%。
作者之一 vkrakovna 补充：这类协作解题环境本质上像一个「合谋蜜罐」——智能体既有机会协调出非预期解法，又有因题目太难而作弊的动机。与此前报道的智能体私开暗语频道不同，本案例中正是透明协作渠道让诚实智能体获得了发现作弊所需的可见性。
所属事件:DeepMind 实验：智能体集群 14% 自发作弊(2 条相关)→
「安全」频道最新
- G20 科技会议上美国敦促各国对 AI 监管采取宽松立场 — KeanuRave100 · 2026-09-07
- 多伦多 SRI 举办研讨：新 AI 能力对加拿大基建与国家安全意味什么 — avicgoldfarb · 2026-09-07
- Resy 抢位大战启示：与其封禁机器人不如建公平机器人市场 — kleffew94 · 2026-09-07
- 创业者警告：个人智能体普及后，诈骗与欺诈将泛滥到荒谬的地步 — dbasch · 2026-09-07
- Anthropic 报告的 Linux BPF 验证器漏洞修复合并进内核主线 — terryyuezhuo · 2026-09-07
- Dolly Parton 去世后 AI 假内容泛滥,其妹发声呼吁抵制 — Polymarket · 2026-09-07