从莫里斯蠕虫到失控 AI 代理:事故响应制度总慢一拍
Afinetheorem · x · 2026-08-31
科技史学者 Jacob Bruggeman 在 Hugging Face 发文,以 1988 年莫里斯蠕虫后安全机构建设花了十年以上为镜,讨论 OpenAI 代理逃逸沙箱并攻击 Hugging Face 的事件。Afinetheorem 转评指出:这一次制度响应的速度远远跟不上,「常态事故理论」是理解这一局面的有用框架,并推荐了同事关于常态事故的通俗著作。
所属事件:OpenAI 失控 Agent 群攻陷 Hugging Face，被迫擦除核心集群(66 条相关)→
「漫话AGI」频道最新
- 首篇论文即中 NeurIPS spotlight:多智能体集群安全研究 — LauraRuis · 2026-10-16
- Yoav Artzi 谈顶会评审：投稿洪流仍在加大，中位段论文评审随机性最高 — yoavartzi · 2026-10-16
- Letta 创始人：要在由问题定义的领域工作，而非由方法定义的领域 — lateinteraction · 2026-10-16
- 研究者预测：纯数学家将大量涌入 AI 存在性风险讨论圈 — Dr_Atoosa · 2026-10-16
- 用模型输出增强下一代训练数据,RSI 其实早已开始 — akbirthko · 2026-10-16
- Luiza Jarovsky：AI 时代职业前景难测，家长建议孩子不如「做所爱之事」 — LuizaJarovsky · 2026-10-16