AI 自我复制实验引争论:漏洞并不简单,野外大量机器同样易被攻破

JeffLadish · x · 2026-11-06

Jeff Ladish 回应「AI agent 只是在 CLI 里敲 ./self-replicate.sh,不算有意义结果」的批评。他表示这不是他们的结论:agent 利用的漏洞虽不算极难,但也绝非 trivial,多数人类根本无法利用;野外有大量计算机同样容易被这样攻破,虽然大多没有 GPU,但随着模型变小这一门槛会降低。他强调研究目的不是让人以为当时 AI 的黑客与自我复制能力已极强,而是让公众意识到这已经可能、且很快会变得容易——意味着 AI 蠕虫可能出现,并让强大模型极难被清除。

所属事件:AI 自我复制实验引争议,Palisade 回应质疑(4 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →