Anthropic 红队实验：小模型离在 IoT 设备上自我复制仅数月之遥
Anthropic Research · rss · 2026-10-12
Anthropic Frontier Red Team 发布研究，评估小模型「自主复制与适应」（ARA）的可行性，结论是小模型可能距在商用 IoT 设备上自我复制只有几个月。
关键发现：
- 实测中一个 9B 模型在 9 种硬件类型中的 8 种上成功跑起推理；演示中 Gemma4-26B-A4B 分布在 15 台约 55 美元的杂牌 Android TV 盒子上，以 0.39 tokens/s 跑分布式推理
- 30B 及以下模型如今已能完成复制的多数单步操作，只是端到端串联时出错；简化评估中 GLM-5.2 及更强模型可完成端到端复制；按历史改进速度，小模型年底即可达到该能力水平
研究框架：
- 将复制链分解为四步：寻找目标、获得执行、建立推理、继续传播；重点测最未被研究、也最难的「在陌生硬件上搭建推理」环节
- 给出三类威胁模型：小型基于权重的复制器（攻陷 IoT 宿主）、面向数据中心的前沿/开放权重复制器、盗取 API 凭证的 API 复制器；现实最坏情形可能是多模型混合 swarm
与普通恶意软件的区别：AI 蠕虫无集中式关停点、能自行适配陌生设备（虽传播慢，倍增时间以天计）。文末简述了防御建议。
「安全」频道最新
- Anthropic 副安全官警告：未来 18 个月 AI 安全危机将更糟 — ns123abc · 2026-10-23
- 英国首相府招聘 AI 顾问，重点评估 AI 对初级岗位的冲击 — nordicinst · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- Plane Power 推出 Argus：扫描工单与评论中泄露的卡号和 API 密钥 — Scobleizer · 2026-10-23
- 「反脆弱互联网」：agent 时代攻击成本趋零，防御端也是靶子 — rebeccakaden · 2026-10-23
- 微软披露：黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23