Anthropic 红队：小模型数月内或能在智能烤箱等设备上自我复制
ns123abc · x · 2026-10-13
Anthropic Frontier Red Team 发布研究，评估 AI 模型的自主复制与适应能力（ARA）。
- 关键结论：小型模型可能距在商业 IoT 设备（智能烤箱、杂牌 Android TV 盒子等）上自我复制仅数月之遥。这类复制体没有集中关闭点，难以清除，虽增殖慢（倍增时间以天计）；与普通恶意软件不同，它还能自行搞定陌生设备。
- 评测结果：9B 模型在测试的 9 类硬件中有 8 类成功跑起推理；30B 及以下模型已能完成复制的多数单独步骤，但端到端串联时会出错。在简化评测中，GLM-5.2 及更强模型已能端到端复制；若小模型按历史速度进步，年底前将匹配该能力，之后基于权重的复制体可能很快出现。
- 威胁形态：AI "蠕虫"可携带（或从公共 hub 重新下载）模型权重在受损硬件上直接推理，权重本身成为恶意软件载荷；数据中心 GPU 是明显的高价值目标。
这是对前沿模型失控风险的具体化实证评估，非纯推测。
所属事件:Anthropic 红队警告小模型数月内或在 IoT 设备自我复制(43 条相关)→
「模型」频道最新
- Gemini 4 Argon 上线 Gemini 平台，开发者可调用 — ColbyHawker · 2026-10-14
- Gemini 4 随手一问写出 5000 行代码，自建 3D 光线追踪引擎 — fofrAI · 2026-10-14
- 实测一周后：Gemini 4 Argon 适合什么场景，何时该换竞品 — every · 2026-10-14
- 谷歌 Gemini 4 Argon 面向所有用户开放 — zacharynado · 2026-10-14
- 谷歌向1万名科学家免费开放Gemini 4 Argon最高用量6个月 — alexechu_ · 2026-10-14
- Every 实测 Gemini 4 Argon:5 条使用技巧与 38 次跑分观察 — every · 2026-10-14