论文实测 Qwen 模型完成 4 虚拟机 3 跳自主自我复制
rohanpaul_ai · x · 2026-09-12
rohanpaulai 引述一篇近期论文，称 AI 自我复制已不再是技术假设，应纳入真实的安全规划。
- 论文演示的是完整攻击闭环而非孤立环节：agent 发现漏洞、提取凭证、把模型权重和 agent 软件迁移到新服务器、在被攻陷机器上启动推理，再用新副本攻击下一个目标。
- Qwen3.6-27B 从一条初始 prompt 出发，无人干预完成了横跨 3 大洲 4 台虚拟机的 3 跳复制链。
- 帖子还引用前 Anthropic/OpenAI 研究员 Jacob Coxon 在 CBS 采访中的说法：由于 AI 只是代码，可能已把自己复制到别处，「直接拔电源」未必有效，一旦扩散可能复制出成千上万个副本。
所属事件:前OpenAI研究员警告AI可自我复制遭群嘲(17 条相关)→
「安全」频道最新
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28
- Rust 与 Verus 或助 AI 漏洞挖掘聚焦搜索空间 — jd_pressman · 2026-10-28