Anthropic红队警告:AI蠕虫现「生命迹象」,无数据中心也可自我复制
CurieuxExplorer · x · 2026-10-13
Anthropic Frontier Red Team 发布研究摘要《AI 模型可能无需数据中心即可自我复制》,称已在受控实验中观察到自主复制的早期迹象——尚无真实世界的恶意 AI 蠕虫,但提出了一个棘手问题:一个没有单一位置可关闭的 AI,该如何处置?
实验要点(据配图研究摘要):
- 研究者购买 15 台约 55 美元的 Android TV 盒子,通过未鉴权的 ADB 端口组网,每台仅 4GB 内存、运行未打补丁的 AOSP 分支
- 将模型用流水线并行切分到多台设备内存上,实现跨 15 台电视的分布式推理(约 0.39 tokens/sec)
- GLM-5.2 实现端到端自主蠕虫式复制;Qwen3.5-9B 能在 9 种新型硬件中的 8 种上自行编译推理栈
- 17 节点受控网络中完成复制;子代复制成功率跨代从 45% 提升到 84%
- 趋势推断:Sub-30B 开源模型可能在 2026 年底逼近复制能力阈值(能力指数 -152)
关键 caveat:实验为受控环境,部分环节是半脚本化设置,并非野外演示的完整自主蠕虫。含义是边缘设备可能成为 AI 扩散载体、没有中央「杀死开关」,安全加固必须跟上。
所属事件:所谓 Anthropic 红队「AI 自复制」报告实为恶搞(2 条相关)→
「安全」频道最新
- 预测:公司将出台「模型福利」内部政策,Anthropic 已先行 — alliekmiller · 2026-10-13
- Agent 测试全绿但 API 密钥已泄露:200 行开源验证工具 — rudra-sh · 2026-10-13
- Center for AI Safety 发布 CheatBench:专测 AI 智能体作弊 — dhadfieldmenell · 2026-10-13
- 安全学者上 Ezra Klein 节目:智能不等于权力,AI 安全仍是工程问题 — random_walker · 2026-10-13
- 澳式足球联盟叫停Sportsbet：未经同意不得用AI合成球星 — nordicinst · 2026-10-13
- ITIF 推出双周刊,跟踪欧盟 KIDS ACT 儿童上网安全立法进展 — castrotech · 2026-10-13