Anthropic 红队:小型模型或数月内可脱离数据中心自我复制

joshua_saxe · x · 2026-10-13

Anthropic Frontier Red Team 成员 Will Zhou(原 Fellow,已转正)与 Logan Graham 等人发文警告:让模型成为强大编码代理的能力同样泛化到网络攻击任务,包括自主复制。团队称已看到「AI 蠕虫的萌芽迹象」——虽然还没有完整的恶意自我复制体,但 agent 已能完成复制链条中的各个步骤,并把改动传给未来副本;而小型模型可能距脱离数据中心自主复制仅数月。团队主张双轨应对:一方面加固系统阻止复制体扩散,另一方面准备应对「它们已然存在」的世界,并认为这一风险目前被明显低估。