Anthropic红队：小模型或数月内在物联网设备上自我复制
scaling01 · x · 2026-10-13
Anthropic Frontier Red Team（William Zhou、Daniel Freeman）发布研究：小型 AI 模型可能距离能在商用物联网设备（如智能烤箱、山寨 Android TV 盒子）上自我复制仅剩数月。
- 核心发现：在简化评测中，9B 模型能在测试的 9 种硬件中的 8 种上跑起推理；GLM-5.2 及更强的模型已能端到端完成自我复制。
- 威胁特征：这种"AI 蠕虫"没有可集中关停的节点，难以清除（虽然复制较慢，倍增时间以天计）；与非 AI 恶意软件不同，它还能自己摸索陌生设备的用法。
- 能力现状：30B 以下模型今天已能完成复制的多数单步操作，只是在端到端串联时会出错；若小模型按历史速度进步，今年年底前即可达到该能力水平，之后可能出现携带权重的复制体。
- 研究讨论的是自主复制与适应（ARA）这一长期担忧正变得现实：模型在无人控制下部署并传播自身。
所属事件:Anthropic红队：小模型数月内或可在物联网设备自我复制(5 条相关)→
「安全」频道最新
- 以假乱真的钓鱼邮件:机构、域名、SPF 全真,Grok 仍识别出是骗局 — pwlot · 2026-10-13
- Polymarket 预测：美国两年内通过 AI 安全法案概率仅 5%-30% — Polymarket · 2026-10-13
- 挪威罚微软广告部门 960 万美元,因非法共享 Grindr 用户性取向数据 — Polymarket · 2026-10-13
- HackerOne 年报:关键漏洞修复提速 61%,待处理积压却激增 131% — philvenables · 2026-10-13
- 开源 Tamga 演示:README 里藏 HTML 注释注入指令,在模型读到前拦截 — tatar-sh · 2026-10-13
- Anthropic 官方研究：AI 或无需数据中心即可自我复制 — ResultBackground2450 · 2026-10-13