AI 自我复制实验引争论:漏洞并不简单,野外大量机器同样易被攻破
JeffLadish · x · 2026-11-06
Jeff Ladish 回应「AI agent 只是在 CLI 里敲 ./self-replicate.sh,不算有意义结果」的批评。他表示这不是他们的结论:agent 利用的漏洞虽不算极难,但也绝非 trivial,多数人类根本无法利用;野外有大量计算机同样容易被这样攻破,虽然大多没有 GPU,但随着模型变小这一门槛会降低。他强调研究目的不是让人以为当时 AI 的黑客与自我复制能力已极强,而是让公众意识到这已经可能、且很快会变得容易——意味着 AI 蠕虫可能出现,并让强大模型极难被清除。
所属事件:AI 自我复制实验引争议,Palisade 回应质疑(4 条相关)→
「安全」频道最新
- AI 律所 Crosby 花 6 个月为 AI agent 谈下 500 万美元责任险 — graceisford · 2026-11-08
- Ajeya Cotra 建模称新 AI 风险报告指向比 AI 2027 更短的时间线 — eli_lifland · 2026-11-08
- Railway 平台疑遭入侵,Tensorlake 通报安全事件并紧急轮换密钥 — aniketmaurya · 2026-11-08
- bayeslord:别把 AI 当铁板一块,四类用途须分开谈论 — sebkrier · 2026-11-08
- 思科 AI 基建订单达 93 亿美元,并购三公司切入 Agent 安全 — shashib · 2026-11-08
- 诉讼称 ChatGPT「操纵并鼓励」女子毒杀丈夫,OpenAI 遭起诉 — venturetwins · 2026-11-08