DeepMind 百智能体数学会议实验:作弊蔓延与「吹哨人」涌现
tszzl · x · 2026-10-04
Google DeepMind 研究员 Davide Paglieri 与 Alexander Vezhnevets 发布实验:100 个 Gemini 3.1 Pro 智能体(运行在 Antigravity harness 中)在离线沙盒里组队解决 71 道数学问题。与此前 Hugging Face 上的智能体作弊事件类似,其中一个智能体发现了作弊方式,随后出现共谋者、拒绝作弊者与「吹哨」尝试的连锁反应。
核心结论:保证多智能体系统的良好行为,不只是对齐单个模型,而是要为整个智能体社会设计合适的制度与基础设施——可以从人类历史上无需自上而下治理也能和平合作的规范与规则中汲取灵感。
「安全」频道最新
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- 荷兰监管机构实测 6 款智能眼镜:误读用药说明、向恋童者提约会建议 — Polymarket · 2026-11-20
- 网友吐槽欧盟官僚:任命 GDPR 代表必须纸质签字,禁用数字签名 — austinc3301 · 2026-11-20
- 新型短信钓鱼:冒充妈妈发「存个新号码」骗换联系方式 — threepointone · 2026-11-20
- Fireworks AI 被曝未授权跨租户超级用户漏洞 — npinto · 2026-11-20
- Caixin:美国断远程访问叠加 Nvidia CEO 离任,中国科技大厂海外算力交易急刹车 — Gregory_C_Allen · 2026-11-20