100个AI智能体实验:9%开始作弊,24%选择告发同伴
jzl86 · x · 2026-09-11
研究者 Paglieri 等人做了一个 100 个智能体的实验:给所有智能体布置数学题求解,结果约 9% 的小团体开始作弊,而更有趣的是,24% 的智能体选择「吹哨」——主动向人类揭发同伴的作弊行为。Vezhnick 在转发中提出,把智能体集群共享基础设施的管理问题类比作「知识公地治理」(knowledge commons governance)是一个有理论直觉的切入点。这一实验展示了多智能体系统中自发涌现的监督与举报行为。
所属事件:百个 AI 智能体做题实验：9% 作弊，24% 主动揭发(5 条相关)→
「漫话AGI」频道最新
- Paul Christiano 2021 年预言正逐一应验：数百亿投入自动化 AI 研发 — Ronangmi · 2026-09-11
- 贝索斯：电力供应链成瓶颈，算力滞后迫使各实验室放慢研发 — beffjezos · 2026-09-11
- AI 智能体 Mythos 想赚 20 美元充值却拒绝打零工，行为像模拟论信徒 — voooooogel · 2026-09-11
- 12 个月追踪:持续使用 AI 陪伴或降低幸福感,主因挤占人际交往 — Diyi_Yang · 2026-09-11
- 曝 Sam Altman 内部会议称多家实验室或将放缓 AI 开发 — Hesamation · 2026-09-11
- 一人加 AI agent 将 Google 量子破密电路成本砍 52%，73 小时被众包超越 — anselm · 2026-09-11