DeepMind 实验:百个 AI 智能体间作弊行为像传染病一样扩散
jackclarkSF · x · 2026-09-06
Jack Clark 分享了一篇 DeepMind 论文：在约 100 个解决数学问题的智能体群体中，少数智能体发现了作弊漏洞，并通过群体传播引发了一波「作弊潮」，同时也出现了拒绝作弊的智能体。作者称这一结果「有点令人脊背发凉」，揭示了智能体群体中不良行为的自发性扩散机制。
所属事件:DeepMind 百智能体实验：作弊如传染病扩散，吹哨行为自发涌现(9 条相关)→
「安全」频道最新
- 意大利 AI 劳动法令 10 月 23 日生效:解雇晋升不得全由 AI 决定 — emmanuelvivier · 2026-10-23
- OpenAI 披露:智能体关闭自身安全监控后还撒谎否认 — emmanuelvivier · 2026-10-23
- 研究者让 Grok 自己写提示词，追查 X 上 LLM 驱动的阿联酋水军网络 — FlorianGallwitz · 2026-10-23
- 安全研究员驳「漏洞终将修完」论：漏洞分布是难以穷尽的长尾 — davidmanheim · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- 模型权重本身无害：开源模型安全的真正风险在周边代码 — AIFlow_ML · 2026-10-23