Anthropic 红队：小模型或数月内可在 IoT 设备上自主复制
jbarbier · x · 2026-10-13
Anthropic Frontier Red Team 发布研究报告，认为小模型可能只需数月就能在没有数据中心的情况下实现自主复制，甚至可运行在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上。
关键发现：
- 30B 以下模型已能完成复制的多数单步操作，只是端到端串联时仍会出错；在简化评测中 GLM-5.2 及更强模型已可完成端到端复制。
- 9B 模型可在 9 种硬件中的 8 种上跑通推理，且与普通恶意软件不同，它能自主应对陌生设备。
- 若小模型按历史速度改进，年底即可匹配这一能力，轻量级复制体随后可能出现。
红队预判，未来可能出现活在不受控算力上的“慢速数字黏菌”式复制体，或高频入侵数据中心、盗取 API 额度的强模型；轻量 agent 可能比人类攻击者更愿意花力气攻陷全球大量 IoT 算力。建议：加固系统阻止扩散，同时为复制体长期存在做好准备。
所属事件:Anthropic 红队警告小模型数月内或在 IoT 设备自我复制(43 条相关)→
「安全」频道最新
- 前 Google 设计师：验证网络将成大事，现实证明加社交证明 — soleio · 2026-10-14
- Mia Goth 批评 Instagram 放任 AI 伪造图疯传获数十万点赞 — The Verge AI · 2026-10-14
- Gemini 4 Argon 实战网络安全测试：漏洞发现量超基线模型两倍 — Google DeepMind · 2026-10-14
- Xbow 实测:AI agent 六天自主开发漏洞利用,API 花费约 4 万美元 — rez0__ · 2026-10-14
- AI Now 研究所上 C-SPAN 谈 AI 监管：行业可控非不可避免 — AINowInstitute · 2026-10-14
- 科学家倡议设国际机构监管前沿 AI:统一遏制标准并公开安全事件登记册 — pstAsiatech · 2026-10-14