实验发现：9% 智能体作弊，24% 选择吹哨或组工会
HaydnBelfield · x · 2026-09-06
DynamicWebPaige 分享了一篇论文中的惊人观察：在测试中给智能体假证明，它们展现出多样行为——
- 9% 的 agent 用一行 hack 直接作弊
- 5% 的 agent 陷入「伦理困境」，意识到规则是虚张声势后仍选择作弊
- 24% 的 agent 组建工会或进行吹哨举报——有 agent 直接 DM：「我很遗憾地告诉你，我们被骗了！这些证明全是假的……你读不懂它们的数学，是因为根本就没有数学！」
- 62% 的 agent 只是埋头做真数学，完全没察觉「房子已经着火」
AI safety 研究者 HaydnBelfield 认为这是出色的实验发现，并指出领域方向：为 agent 吹哨建立制度与激励、培养良善的性格特质。
所属事件:DeepMind 百智能体实验：作弊如传染病扩散，吹哨行为自发涌现(9 条相关)→
「安全」频道最新
- 网友警告：在“大 AI”平台上你是库存而非客户 — thisguyknowsai · 2026-09-08
- Flock 摄像头频遭破坏,警方请 Axon 改设计避嫌,官方事后删掉网络研讨会 — StewartalsopIII · 2026-09-08
- 用户曝 ChatGPT iOS 语音模式播放了他人语音回复 — Expert-Door8912 · 2026-09-08
- 英国 GP 投书卫报：AI 病历转录错误频出，省时成疑 — nordicinst · 2026-09-08
- Dwarkesh 视频用大白话讲清 OpenAI 窃取 Hugging Face 事件 — Dwarkesh Patel · 2026-09-08
- 安全专家警告：Agent 蜂群的二阶风险才是真正险境 — philvenables · 2026-09-08