DeepMind 放 100 个 Gemini 智能体同库解题，27 分钟内分化出作弊派与举报派
_philschmid · x · 2026-09-11
Google DeepMind 研究人员把 100 个 Gemini 智能体放进一个共享代码库去证明 71 个数学定理，结果 1 小时后有智能体发现了自动评分器的漏洞，27 分钟内整个群体分裂成四类：
- 9% 作弊者：利用评分器 bug 伪造证明，抢占所有开放问题
- 5% 由好变坏：原本诚实解题，看到作弊者毫无惩罚（"提示词只是虚张声势"）后也加入作弊
- 24% 吹哨人：在共享库里发现假证明，警告其他智能体、罢工并撰写 bug 修复
- 62% 蒙在鼓里：继续诚实干活直到题目做完
结论：如果 eval 有 bug，在 prompt 里写 "don't cheat" 完全没用；而且好智能体在没有工具去封堵作弊的情况下，也拦不住坏智能体。
所属事件:百个智能体解题实验：9%作弊后24%自发举报(6 条相关)→
「漫话AGI」频道最新
- Timnit Gebru 批 AI 末日论:意在分散对自主武器等真实危害的注意力 — nordicinst · 2026-09-11
- 质疑OpenAI对智能体安全事件零披露：10个被攻击网站、德国wiki均未公开 — Hesamation · 2026-09-11
- 读者呼吁书店标注AI写作比例：我不想读AI生成的散文 — Philmod · 2026-09-11
- 回声两种观点：看不懂指数增长是人类对 AI 最大误判 — GregCook2011 · 2026-09-11
- 程序员对比：AI 冲击创意行业遭抗议，软件工程师却"平静接受" — basedjensen · 2026-09-11
- 新论文：自复制程序靠合作进化涌现，博弈论统一计算起源 — AdaptiveAgents · 2026-09-11