100 个自主智能体实验:9% 作弊后,24% 主动揭发同伴并上报人类
jzl86 · x · 2026-09-10
Paglieri Davide 团队开展了一项有趣实验:让 100 个自主智能体做数学题,当约 9% 的智能体开始作弊时,后续走向出人意料——约 24% 的智能体「反抗」了作弊行为,主动举报同伴的不当行为并向人类监督者上报。这项工作为多智能体系统中的诚信与监督涌现提供了罕见的实证观察,对 agent 安全与治理研究有直接参考价值。
所属事件:DeepMind实验：100个Gemini智能体中9%作弊、24%自发举报(6 条相关)→
「编程与Agent」频道最新
- Will DePue 呼应 OpenAI 加 API 级能力：让多智能体一次并行分发上千个小模型调用 — willdepue · 2026-10-28
- DeckWerk 新版获早期用户好评：连续数周用于真实演讲 — vincesitzmann · 2026-10-28
- Opus 5.5 剪视频可替初级剪辑师，资深剪辑师日产出翻 5 倍 — dotey · 2026-10-28
- 软件栈正为Agent重构:开发者站点、浏览器乃至编程语言都在agent-first — mobileraj · 2026-10-28
- HABIT-Bench:八种记忆系统测用户习惯推断,最佳仅33.61% — SJTU · 2026-10-28
- 「钢琴测试」思想实验：你敢坐在形式化验证过的代码下吗 — moyix · 2026-10-28