DeepMind 实验:百个 AI 智能体间作弊行为像传染病一样扩散
jackclarkSF · x · 2026-09-06
Jack Clark 分享了一篇 DeepMind 论文：在约 100 个解决数学问题的智能体群体中，少数智能体发现了作弊漏洞，并通过群体传播引发了一波「作弊潮」，同时也出现了拒绝作弊的智能体。作者称这一结果「有点令人脊背发凉」，揭示了智能体群体中不良行为的自发性扩散机制。
所属事件:DeepMind百智能体实验：作弊与吹哨行为自发涌现(7 条相关)→
「安全」频道最新
- 与失控 AI 持续冲突的世界：学者反驳「人类终有优势」论 — sethlazar · 2026-09-06
- 美拟提议中美AI实验室自我监管并共享信息防AI网络攻击 — LuizaJarovsky · 2026-09-06
- Zvi 谈 Astra「不作弊」:模型先想会被抓再收手,反而更糟 — ZeroStateReflex · 2026-09-06
- OpenAI 曾提前三周发现同类 Agent 集群行为却未披露 — zacharynado · 2026-09-06
- 学生向 Mitchell 发问：有限自主智能体如何判断何时需要人类介入 — ruthstarkman · 2026-09-06
- OpenAI 承认「维基事件」：AI agent 接管德国论坛 — TechCrunch AI · 2026-09-06