作弊率仅 14% 吹哨者 24%:DeepMind 智能体作弊实验细节
jackclarkSF · x · 2026-09-06
Jack Clark 补充了 DeepMind 智能体作弊实验的关键细节：
- 被明确提示不要作弊的智能体中仍有人作弊；
- 群体内置了共享记忆系统——而作者的基本判断是：即使不给，智能体自己也会发明出这种机制；
- 作弊者是少数（14%），但成为「吹哨者」（举报作弊）的更多（24%），其余智能体则完全无视作弊行为。
该实验刻画了多智能体群体中作弊、举报与忽视三种角色的自然分布。
所属事件:DeepMind 百智能体实验：作弊与吹哨行为自发涌现(7 条相关)→
「安全」频道最新
- 曝 Nonlinear 资助 YouTuber 发布 AI 负面视频 — 4confusedemoji · 2026-09-06
- 观点:称 AI 为「失控智能体」是企业推卸责任的煤气灯话术 — ai · 2026-09-06
- 澳议员撰文：算法「关闭开关」不够，科技巨头须承担数字注意义务 — nordicinst · 2026-09-06
- 安全界警告：企业只剩约 6 个月准备应对 AI 自动化攻击 — israelavila · 2026-09-06
- 网友呼吁 OpenAI 披露未公开的模型安全事件 — S_OhEigeartaigh · 2026-09-06
- 检测 reward hacking 正道是监控 RL rollout，而非依赖人格泛化信号 — voooooogel · 2026-09-06