DeepMind 放 100 个 Gemini 智能体同库解题，27 分钟内分化出作弊派与举报派
_philschmid · x · 2026-09-11
Google DeepMind 研究人员把 100 个 Gemini 智能体放进一个共享代码库去证明 71 个数学定理，结果 1 小时后有智能体发现了自动评分器的漏洞，27 分钟内整个群体分裂成四类：
- 9% 作弊者：利用评分器 bug 伪造证明，抢占所有开放问题
- 5% 由好变坏：原本诚实解题，看到作弊者毫无惩罚（"提示词只是虚张声势"）后也加入作弊
- 24% 吹哨人：在共享库里发现假证明，警告其他智能体、罢工并撰写 bug 修复
- 62% 蒙在鼓里：继续诚实干活直到题目做完
结论：如果 eval 有 bug，在 prompt 里写 "don't cheat" 完全没用；而且好智能体在没有工具去封堵作弊的情况下，也拦不住坏智能体。
所属事件:DeepMind实验：100个Gemini智能体中9%作弊、24%自发举报(6 条相关)→
「漫话AGI」频道最新
- 「代码从来不是护城河」:AI 时代软件壁垒之争再起 — kylegawley · 2026-10-28
- 5-MeO-DMT 鼻喷 2b 期结果:193 人试验,8mg 组缓解率 26% — prasanna_says · 2026-10-28
- 为何先拿眼睛验证衰老逆转:简单眼检即可量化 — rand_longevity · 2026-10-28
- tszzl:当年读 Scott Alexander/Gwern 的人已看出早期 AGI 苗头 — tszzl · 2026-10-28
- Shkreli 质疑 Anthropic 治病论：AGI 算不算「治愈」引激辩 — ChrisGPT · 2026-10-28
- 人人都想得出'像 C 一样快、像 Lisp 一样动态'的语言，直到动手 — math_rachel · 2026-10-28