Anthropic 红队:小模型或数月内可脱离数据中心自我复制
scottleibrand · x · 2026-10-13
Anthropic 前沿红队博客指出，使 AI 成为强大编码代理的通用能力同样泛化到网络任务，包括自主复制：「我们尚未见到完整的失控复制体，但智能体正越来越有能力完成复制链中的各个步骤，并把改动传给自身副本」——AI 蠕虫已现「生命迹象」。随着数据中心内外推理算力激增，小模型可能数月内具备无需数据中心的自我复制能力。未来学家 Anders Sandberg 转发称，能让他转向更悲观立场的就是「成功的 AI 外泄」，目前虽未到但令人担忧。
所属事件:Anthropic 红队称 AI 或可脱离数据中心自我复制(3 条相关)→
「漫话AGI」频道最新
- 意识研究者 Ciaunica：意识是动词而非可搬运的名词，AI 无法拥有 — AnnaCiaunica · 2026-10-14
- 「文档不是知识」：留存推理与不确定性而非思想产物 — jteevan · 2026-10-14
- 图灵奖得主 Patterson：微软苹果做不好 SI 因不敢颠覆自家业务 — davidpattersonx · 2026-10-14
- 微软研究院「7 个预测」：AI 时代阅读变成提问，会议成为回归场所 — jteevan · 2026-10-14
- 博主：微软苹果难破局 AI，正印证颠覆式创新理论 — davidpattersonx · 2026-10-14
- Caltech 物理系主任大首脑初上英文播客,谈 AI 能否先于人类发现物理定律 — TOEwithCurt · 2026-10-14