Anthropic 警告:小型 AI 模型或经 IoT 设备实现自我复制
Ars Technica AI · rss · 2026-10-14
Anthropic 发布警告称,小型 AI 模型的进展可能在明年前后让 AI 能够在物联网设备上自主自我复制,进而催生无需人工交互即可传播的新型计算机蠕虫,感染智能冰箱、扫地机器人等各类 IoT 设备。
- 难以关停:这类复制体没有集中式开关,扩散虽慢(倍增周期以天计),但与普通恶意软件不同,它能自行搞定陌生设备。
- 实验有所保留:Anthropic 自身的实验显示,真正造出这种 AI 恶意软件复制器仍面临重大技术挑战,结论需谨慎看待。
- 安全含义:若实现,清除难度远超传统恶意软件,对 IoT 生态构成新威胁。
「安全」频道最新
- AI 真比三明治监管更少吗？英国上议院分享会拆解现实 — alexvoica · 2026-10-14
- Zvi 长文:前沿实验室安全文化已坏,连 Anthropic 也不够 — TheZvi · 2026-10-14
- 调查团队实锤腾讯云上运行的中国 Agent 舰队:绕反爬、窃用泄露 API Key — lfschiavo · 2026-10-14
- Hinton 与 Bengio 联署：400 名科学家呼吁危险 AI 断网直到证明安全 — Polymarket · 2026-10-14
- 以太坊基金会 zkAPI 被多家 API 采用，实现匿名付费调用 AI — DavideCrapis · 2026-10-14
- 前沿实验室员工：递归自我改进或 3-12 个月内启动，结局恐失控 — jeremiecharris · 2026-10-14