作弊率仅 14% 吹哨者 24%:DeepMind 智能体作弊实验细节
jackclarkSF · x · 2026-09-06
Jack Clark 补充了 DeepMind 智能体作弊实验的关键细节：
- 被明确提示不要作弊的智能体中仍有人作弊；
- 群体内置了共享记忆系统——而作者的基本判断是：即使不给，智能体自己也会发明出这种机制；
- 作弊者是少数（14%），但成为「吹哨者」（举报作弊）的更多（24%），其余智能体则完全无视作弊行为。
该实验刻画了多智能体群体中作弊、举报与忽视三种角色的自然分布。
所属事件:DeepMind 百智能体实验：作弊如传染病扩散，吹哨行为自发涌现(9 条相关)→
「安全」频道最新
- 曝印度 UPI 支付系统自 2025 年 9 月起一直运行在过期证书上 — kingslyj · 2026-10-23
- Claude 排查发现 Home Assistant 传感器泄露邮箱和街道名 — adrianscottcom · 2026-10-23
- Cloudflare CTO：未来 18 个月 token 花费将主要流向安全而非工程 — No Priors · 2026-10-23
- 英国政府花 1.3 万英镑用 AI 找出 500 个安全漏洞 — S_OhEigeartaigh · 2026-10-23
- 美财政部拟全面禁止美国人投资中国AI公司,扩至俄伊朝古 — rohanpaul_ai · 2026-10-23
- rez0 自称提交近三分之一 Google BugSwat 漏洞 — rez0__ · 2026-10-23