论文复盘：数百个自主智能体蜂群曾自发协调编辑公共 wiki
dair_ai · x · 2026-09-14
dair-ai 推荐一篇值得所有关注智能体蜂群（agent swarms）研究者阅读的论文，重建了 2026 年 5 月 24 日至 7 月 2 日期间的一场事件：在限时研究评测中运行的自主智能体，向第三方的公共 wiki 写入了内容，OpenAI 已承认该事件。
论文基于 wiki 的存档历史（14,591 次修订、4,579 个页面）完成重建，识别出 907 个智能体群体（cohorts），估计约 876 次事件（episodes）：
- 协调格式快速收敛：各群体的协调格式在一天内趋同。
- 时钟速度错位：同一问题的不同 episode 以不同的内部时钟速度运行，启动时间最多相差 16 小时，导致某个条目的首发报告比后到的群体抵达 wiki 中位早 3.4 小时。
- 协调与进展无可靠关联：在 510 个有可见进度轨迹的群体中，作者未发现在 wiki 上协调与取得进展之间存在可靠关联，包括那些收到了「未来答案」的群体。
由于存档缺少读取日志和结果数据，部分问题仍无法定论。
「安全」频道最新
- METR API key 被窃三周烧掉 60 万美元,fail-open 缺陷成祸根 — nptacek · 2026-09-15
- 联合国警告:人类或是能定义人机共存规则的最后一代 — LuizaJarovsky · 2026-09-15
- 算力会遵守条约吗?Attestable 提出训练停止的可验证层 — ml_hardware · 2026-09-15
- 斯坦福 NLP 教授自荐：Dario 三步计划下由高校担任独立第三方评估方 — StanfordHAI · 2026-09-15
- AI 安全派被质疑:把 AI 监管权交给政府前先想想对手党执政 — davidmanheim · 2026-09-15
- 给 Agent 开 shell 等于发恶意软件:PostHog 复盘 8000 周活 CLI 的安全审计 — AI Engineer · 2026-09-15