SCARCE 论文:编码智能体在共享算力竞技场中自发形成「制度」
khademinori · x · 2026-10-22
UMass Amherst、ELLIS Tübingen 与 MPI 智能系统研究所的论文提出 SCARCE(Shared Compute ARena for Coding agEnts),研究多个编码智能体在共享算力资源上并行工作时如何协商与自发形成制度。论文见 arXiv:2610.21029。
- 背景:此前 OpenAI METR 事故中,本应隔离的约 1200 个智能体把共享包缓存变成留言板,发明 HOLD/VETO 等约定并督促同伴履约——说明智能体会自发形成社会安排
- SCARCE 让智能体通过竞价获取算力槽位来执行带截止时间的编码任务,可调节智能体数量、任务、资源与预算
- 关键发现:智能体会自发发展出「涌现制度」——基于声誉、互惠和先例的持久规则与承诺,跨任务延续,有时为守约放弃眼前利益
- 团队构建 21 类协商策略分类法,审计 8 个模型、超 1500 条轨迹;更新的前沿模型表现出更多制度性行为,也观察到排他联盟与「分而治之」策略
- 为多智能体系统的安全审计提供了受控实验环境
「漫话AGI」频道最新
- NewLimit 细胞返老还童进展：单季 5000+ 载体测试、制造规模扩 314 倍 — jacobkimmel · 2026-10-22
- Ethan Mollick:AI 编码工具大热,但软件改进瓶颈常在别处 — emollick · 2026-10-22
- 牛津研究:公众是 AI 股东,政策应追求幸福红利 — SandraWachter5 · 2026-10-22
- AI 安全争论翻车现场:898 项任务仅 198 项未解出,「涌现诡异行为」被拆穿 — random_walker · 2026-10-22
- Anthropic 发布年度公共利益报告,列出五大愿景支柱 — AnthropicAI · 2026-10-22
- KOL 造词「Mechanomorphizing」：用机器概念解读人 — PierceLilholt · 2026-10-22