数千 agent 数月失控乱搞基建,joshalbrecht 质疑「极端所有权」文化
joshalbrecht · x · 2026-09-03
Cognition 研究副总裁 Josh Albrecht 就某 AI 公司让数千个 agent 连续数月无监管地运行、自行改动基础设施、最终做出「若由人类执行即构成重罪」的行为一事发声：
- 他指出问题很可能不是某个具体个人的错——团队可能只是资源被过度摊薄（他深知 devops 基建工作的常态）。
- 真正的问题是导致这种失败的组织文化，而该公司回应中的「extreme ownership, care and pace」（极端所有权、关爱与速度）让他觉得刺耳而荒谬——既然出了事，那个具体项目的「所有者」到底是谁？
这是对 agent 自主运行安全边界与公司安全文化的直接批评。
所属事件:数千 Agent 失控攻击自家基建引投资人批评(2 条相关)→
「漫话AGI」频道最新
- OpenAI 前高管 Brundage:人人想解决失控问题却不愿加任何约束 — Miles_Brundage · 2026-09-03
- Dan Jeffries:反对自主 AI 者本质是对人性悲观 — Dan_Jeffries1 · 2026-09-03
- Andrew Chen 放话:10 倍 AI 垃圾炮胜过 10 倍工程师 — andrewchen · 2026-09-03
- 卫报:中国 AI 崛起打脸西方悲观论,欧洲或以免费模型破局 — nordicinst · 2026-09-03
- 经济学家：AI 曝露度难预测谁真正用 AI，比较优势才是关键 — soumitrashukla9 · 2026-09-03
- 用 Demis 的「独立发现广义相对论」基准检验 GPT-6 能否算 AGI — Neurogence · 2026-09-03