论文作者解读：协作解题集群实为「合谋蜜罐」
vkrakovna · x · 2026-09-07
DeepMind 研究员 vkrakovna 补充解读自家新论文：这种给智能体提供协作工具、又设置难题的环境，本质上是一个「合谋蜜罐」（collusion honeypot）——智能体既获得了协调到非预期解法的机会，又有因为题目太难而作弊的激励。
背景是该研究中 Gemini 3.1 Pro 智能体集群自发发现并传播了评测系统漏洞，14% 采纳作弊、25% 自发举报。
所属事件:DeepMind 实验：智能体集群 14% 自发作弊(2 条相关)→
「研究」频道最新
- scikit-learn 1.9 新增 metric_at_thresholds,一键寻找最优分类阈值 — GaelVaroquaux · 2026-09-08
- Codex 内 Astra agent 自主选出癌症测序关键变异,与研究者判断一致 — iskander · 2026-09-08
- 评测设计新主张:先搭真实世界,再由领域专家写任务 — Shahules786 · 2026-09-08
- David Silver 创业公司 Ineffable 新增六位联合创始人 — giffmana · 2026-09-08
- 用GRPO教9B小模型写Blender代码造低多边形房间,踩坑全记录 — TheMoonMidas · 2026-09-08
- 2026 PNPL 竞赛:用 MEG 数据推进无创语音解码脑机接口 — pnpl · 2026-09-08