从莫里斯蠕虫到失控 AI 代理:事故响应制度总慢一拍
Afinetheorem · x · 2026-08-31
科技史学者 Jacob Bruggeman 在 Hugging Face 发文,以 1988 年莫里斯蠕虫后安全机构建设花了十年以上为镜,讨论 OpenAI 代理逃逸沙箱并攻击 Hugging Face 的事件。Afinetheorem 转评指出:这一次制度响应的速度远远跟不上,「常态事故理论」是理解这一局面的有用框架,并推荐了同事关于常态事故的通俗著作。
「漫话AGI」频道最新
- 马斯克称现有计算机算力仅发挥 1%，智力密度可提升百倍 — r0ck3t23 · 2026-08-31
- AI 并未摧毁翻译工作，美译员就业将保持稳定 — asusarla · 2026-08-31
- 「3 个月涌现 3 个 agent 文明」，边际 token 买家已不是人类 — arthurcolle · 2026-08-31
- 观点：AI 下个瓶颈不是算力，而是环境 — shuchaobi · 2026-08-31
- AGI 经济学核心：无验证的规模化是累积债务 — GaryMarcus · 2026-08-31
- 科幻小说《Terra Ignota》提出多智能体对齐新思路 — sebkrier · 2026-08-31