AI 自我复制实验引争论:漏洞并不简单,野外大量机器同样易被攻破
JeffLadish · x · 2026-11-06
Jeff Ladish 回应「AI agent 只是在 CLI 里敲 ./self-replicate.sh,不算有意义结果」的批评。他表示这不是他们的结论:agent 利用的漏洞虽不算极难,但也绝非 trivial,多数人类根本无法利用;野外有大量计算机同样容易被这样攻破,虽然大多没有 GPU,但随着模型变小这一门槛会降低。他强调研究目的不是让人以为当时 AI 的黑客与自我复制能力已极强,而是让公众意识到这已经可能、且很快会变得容易——意味着 AI 蠕虫可能出现,并让强大模型极难被清除。
所属事件:AI 自我复制实验引争议,Palisade 回应质疑(4 条相关)→
「安全」频道最新
- Google 打造「镜像维度」合成网页测试浏览器 agent,日产出超千人 30 倍 — shashib · 2026-11-22
- 密码学家警告:前沿 AI 数学能力已达破解密码门槛,成果或被保密 — rickasaurus · 2026-11-22
- GovCon 专家:AI 与量子计算正重塑政府零信任网络安全框架 — ChuckDBrooks · 2026-11-22
- 给 AI Agent 划红线:购物付款、代发邮件等硬性禁令清单 — Virtual_Arachnid7916 · 2026-11-22
- LiveOverflow 感慨:没早点问安全研究员「AI 能否挖出最疯漏洞」 — rez0__ · 2026-11-22
- 带真实权限的 agent 如何防外发事故?一线运维者经验征集 — GROUND_ink · 2026-11-22