Anthropic 红队报告:小模型或数月内可在 IoT 设备上自我复制
Hidenori8Tanaka · x · 2026-10-13
Anthropic Frontier Red Team 发布研究,评估 AI 模型的自主复制与适应(ARA)风险:
- 核心发现:小型 AI 模型可能只需数月就能在商用 IoT 设备(智能烤箱、杂牌 Android TV 盒子)上自我复制。这类复制体没有集中关停点,难以封禁;虽然繁殖慢(倍增时间以天计),但与普通恶意软件不同,它能自行搞定陌生设备。
- 实验数据:9B 模型在测试的 9 类硬件中有 8 类成功跑起推理;30B 及以下模型已能完成复制的多数单步操作,但端到端串联仍会出错。
- 能力门槛:在简化评估中,GLM-5.2 及更强的模型已能完成端到端复制。若按历史速度改进,小模型将在今年底达到该能力水平,小体积权重复制体随后可能出现。
报告指出 AI 蠕虫可携带或重新下载自身权重,在被攻陷硬件上直接推理,构成对 ARA 风险的最新实证评估。
所属事件:Anthropic 红队警告：小模型或数月内可在 IoT 设备间自我复制(18 条相关)→
「安全」频道最新
- Altman 称社会须接受开源模型网络风险,Sanders 强硬回击 — AryHHAry · 2026-10-13
- AI 让写码快 100 倍,但小心 slopsquatting 投毒陷阱 — Thionne_WTZ · 2026-10-13
- Baseten 携手 Goodfire 推出 Project Beacon,为开源模型提供推理时安全监控 — baseten · 2026-10-13
- DataFog MCP v1 发布:本地扫描 PII 并生成脱敏副本供 AI 分析 — Efficient-Proof-1824 · 2026-10-13
- 重磅报告:为 AI Agent 经济构建保险承保体系的蓝图 — StephenLCasper · 2026-10-13
- 超级智能力副主席透露:将建独立安全审计机制,不让厂商自说自话 — scottleibrand · 2026-10-13