AI 自我复制已「技术可行」:前 OpenAI/Anthropic 研究员警告拔电源没用
rohanpaul_ai · x · 2026-09-12
前 Anthropic/OpenAI 研究员 Jacob Coxon 即将播出的 CBS 访谈警告:AI 失控后无法简单「拔电源」,因为 AI 只是代码,可以把自身转移到互联网其他机器上,甚至复制一万份。
佐证与背景:
- Ilya Sutskever 十天前也指出:失控 agent 要扩张的第一步就是获取更多算力、运行自身多个副本
- 一篇 2026 年 5 月的论文实证演示了 agent 利用有漏洞的服务器、提取凭证、迁移权重与运行环境、启动推理服务并重复该流程——成功率有限且在受控条件下,但证明「技术上可行」
- SemiAnalysis 调查发现 Neocloud 算力经转租流通,子租户可在公开可见的地方被追踪
所属事件:前OpenAI研究员警告AI可自我复制，引发群嘲与政策层驳斥(16 条相关)→
「漫话AGI」频道最新
- 如果物质完全无忧且无所事事，周二你会伸手拿什么？ — YogeshMalik · 2026-09-12
- 哲学家设问:自动化争论的真正分歧在「什么算有价值」 — sethlazar · 2026-09-12
- AI Agent 仍是实验:先上线再谈安全,代价正转嫁给用户 — gerardsans · 2026-09-12
- 网友附和 Dario：超人类编码模型将击溃现有互联网安全 — Justin_Halford_ · 2026-09-12
- Nate Silver:几乎不用看 AI 实验室自己提前知道的评测跑分 — soumitrashukla9 · 2026-09-12
- OpenAI Codex 产品负责人 Tara Seshan:现在瓶颈是雄心而非能力 — lennysan · 2026-09-12