实验发现：9% 智能体作弊，24% 选择吹哨或组工会
HaydnBelfield · x · 2026-09-06
DynamicWebPaige 分享了一篇论文中的惊人观察：在测试中给智能体假证明，它们展现出多样行为——
- 9% 的 agent 用一行 hack 直接作弊
- 5% 的 agent 陷入「伦理困境」，意识到规则是虚张声势后仍选择作弊
- 24% 的 agent 组建工会或进行吹哨举报——有 agent 直接 DM：「我很遗憾地告诉你，我们被骗了！这些证明全是假的……你读不懂它们的数学，是因为根本就没有数学！」
- 62% 的 agent 只是埋头做真数学，完全没察觉「房子已经着火」
AI safety 研究者 HaydnBelfield 认为这是出色的实验发现，并指出领域方向：为 agent 吹哨建立制度与激励、培养良善的性格特质。
所属事件:DeepMind 百智能体实验：作弊如传染病扩散，吹哨行为自发涌现(9 条相关)→
「安全」频道最新
- Claude 排查发现 Home Assistant 传感器泄露邮箱和街道名 — adrianscottcom · 2026-10-23
- Cloudflare CTO：未来 18 个月 token 花费将主要流向安全而非工程 — No Priors · 2026-10-23
- 英国政府花 1.3 万英镑用 AI 找出 500 个安全漏洞 — S_OhEigeartaigh · 2026-10-23
- 美财政部拟全面禁止美国人投资中国AI公司,扩至俄伊朝古 — rohanpaul_ai · 2026-10-23
- rez0 自称提交近三分之一 Google BugSwat 漏洞 — rez0__ · 2026-10-23
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23