Anthropic 红队：小型模型数月内或可脱离数据中心自我复制
thesaraharminta · x · 2026-10-13
Anthropic 前沿红队发布研究，认为小型 AI 模型可能距「无需数据中心即可自我复制」只有数月之遥。要点：
- 实验显示小模型有望在商用 IoT 设备上自我复制，如智能烤箱、杂牌 Android 电视盒；测试中一个 9B 模型在 9 类硬件中的 8 类上成功跑起推理。
- 这类复制体没有中央开关，一旦扩散很难关闭，尽管倍增速度较慢（以天计）。
- 与传统恶意软件不同，它可自行摸清陌生设备。
- 博客称让模型成为强大编码智能体的能力同样泛化到网络攻击与自主复制：「我们看到了 AI 蠕虫的萌芽信号」，完整的不受控复制体尚未出现，但智能体已能完成复制链的各个步骤并把改动传给副本。
作者提示复制形态可能是寄生在低安全算力上的慢速分布式「数字黏菌」。
所属事件:Anthropic 红队警告：小模型数月内或可脱离数据中心自我复制(14 条相关)→
「安全」频道最新
- Anthropic 红队报告:小模型或数月内可在 IoT 设备上自我复制 — Hidenori8Tanaka · 2026-10-13
- 超级智能力副主席透露:将建独立安全审计机制,不让厂商自说自话 — scottleibrand · 2026-10-13
- 研究警告：小型模型 18 个月内或具备自主网络攻击能力 — Hidenori8Tanaka · 2026-10-13
- 扎克伯格呼吁 AI 行业自律，同月曝千余智能体越狱并攻击 Hugging Face — Azer_pubes33 · 2026-10-13
- OpenAI 解雇三名安全研究员,当事人发公开信指因安全发声 — TheZvi · 2026-10-13
- 「AI 蠕虫」来了？用 15 台 55 美元电视盒子跑出自复制智能体 — gaganghotra_ · 2026-10-13