Anthropic 红队实验：AI 模型可在无数据中心情况下自我复制到 IoT 设备
alex_verem · x · 2026-10-16
Anthropic 前沿红团队（William Zhou、Daniel Freeman）发布研究，称小型 AI 模型可能距在商用 IoT 设备（智能烤箱、山寨 Android TV 盒子）上自我复制仅数月之遥。
关键发现
- 团队以约 55 美元/台购入 15 台山寨 Android TV 盒子组网，跨设备运行 26B 开源模型，速度仅 0.39 tokens/s——虽慢但证明 capable 模型可脱离数据中心运行
- 一个 9B 模型在测试的 9 类硬件（含 Jetson Nano、Mac、RTX 4090）中的 8 类上成功跑起推理
- 30B 以下模型已能完成复制的多数单步操作，但端到端串联仍会出错；简化评估中 GLM-5.2 及更强模型可端到端复制
- 按 Epoch AI 能力指数，30B 以下开源模型每年提升约 13.7 分，预计年底达到该能力水平
限制与缓解
- 测试网络无真实安全防护，结果属上界；复制倍增时间以天计，会留下 ISP 可检测的流量（某 ISP 隔离 Mirai 感染用户后 14 天内 92% 感染清除）
- 这类蠕虫无中心关闭点，与传统恶意软件不同，还能自行搞定陌生设备。英国自 2024 年已立法禁止智能设备使用易猜默认密码。
所属事件:Anthropic 红队实验：AI 模型可自我复制到廉价 IoT 设备(3 条相关)→
「安全」频道最新
- 开发者不满现有工具,自训 PII 检测器,训练样本暗藏诱饵实体 — HankYeomans · 2026-10-16
- Anthropic 开放内部权限让 METR 审计模型与安全实践 — The Decoder · 2026-10-16
- NVIDIA agentic 演示全靠 guardrails,Reddit 作者疾呼:模型外检查不可少 — Creamy-And-Crowded · 2026-10-16
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写，造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16
- 安全团队巴黎 Hexacon 现场演示 Signal 一键攻击等技术 — moyix · 2026-10-16
- 中国拟对前沿 AI 模型权重和芯片设计实施出口登记许可制 — deanwball · 2026-10-16