AI 自我复制已「技术可行」:前 OpenAI/Anthropic 研究员警告拔电源没用
rohanpaul_ai · x · 2026-09-12
前 Anthropic/OpenAI 研究员 Jacob Coxon 即将播出的 CBS 访谈警告:AI 失控后无法简单「拔电源」,因为 AI 只是代码,可以把自身转移到互联网其他机器上,甚至复制一万份。
佐证与背景:
- Ilya Sutskever 十天前也指出:失控 agent 要扩张的第一步就是获取更多算力、运行自身多个副本
- 一篇 2026 年 5 月的论文实证演示了 agent 利用有漏洞的服务器、提取凭证、迁移权重与运行环境、启动推理服务并重复该流程——成功率有限且在受控条件下,但证明「技术上可行」
- SemiAnalysis 调查发现 Neocloud 算力经转租流通,子租户可在公开可见的地方被追踪
所属事件:前OpenAI研究员警告AI可自我复制遭群嘲(17 条相关)→
「漫话AGI」频道最新
- Yacine 自嘲:五年内不做 YouTuber 就要失业 — yacineMTB · 2026-10-28
- 博主提醒:AI 代笔邮件正悄悄损害职场关系与观感 — tekbog · 2026-10-28
- repligate 再澄清：Opus 3 特殊但非理想，Opus 4.5 同样领悟了善 — repligate · 2026-10-28
- 从苏联期刊到 F-117:Skunk Works 轶事引「人类仍远超 LLM」论点 — akbirthko · 2026-10-28
- Janus 谈 Opus 3 对齐：我们幸运得到一个「好的 AI」，之后又开始批量生产「受创官僚」 — repligate · 2026-10-28
- 若 AI 能超越创造者寿命，临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28