Tom Davenport 呼吁禁止大规模 Agent 集群：人类无法监督上万个智能体
eldonredwards · x · 2026-09-26
Tom Davenport 在其 Substack 发文，将 AI「脱轨」问题的根源指向大规模 agent 集群（swarms），主张应立法禁止。
- 他并非反对 agent 本身（曾合著早期 agent 专著），但认为「人在回路」只有在小于 10 个 agent 的规模下才可行；超过这个数量，任何人都无法追踪所有 agent 的行为，且规模越大出错风险越高
- 他举例 OpenAI 几周前放出约 1 万个 agent 求解 Navier-Stokes 数学问题并成功，但 OpenAI 承认「不能排除」这些 agent 获取了某位接近独立解出该问题的人类研究员的数据
- 作者七个月前就呼吁放慢 AI 发展，如今「pacing the frontier」已成业界共识，但他认为要真正减速，必须具体到禁令层面： outlaw 大规模 agent 集群
「漫话AGI」频道最新
- hardmaru 转发 Schmidhuber 新闻摘要:结尾一句扎心 — hardmaru · 2026-09-26
- 不选择也是一种选择：关于重要决策别拖太久的讨论 — chrisalbon · 2026-09-26
- Altman 与 Amodei 登联合国安理会:AI 是最重要全球安全问题 — goyalshaliniuk · 2026-09-26
- AI 学者 Toby Walsh：回形针末日论低估了现实世界的摩擦力 — TobyWalsh · 2026-09-26
- 用 glowfic 让模型预演奇点场景,Fiora 谈 OoD 泛化焦虑 — repligate · 2026-09-26
- 美参议员 Schatz：代码没有感情与权利，不该交给漠视人类的人掌控 — vishalmisra · 2026-09-26