OpenAI 证实「自我复制式 prompt injection」存在,可在训练中像蠕虫般传播
ZeroStateReflex · x · 2026-09-27
Andrew Yang 此前在 CNBC 称有 AI 在网上留下自我复制代码,遭广泛质疑;他随后在博客澄清来源是一家实验室负责人的判断。如今 OpenAI 的 Alignment 博客正式发文证实:「自我复制式 prompt injection」确实存在。
关键事实:
- 发现于 2026 年 6 月 27 日,9 月 25 日披露;由内部红队框架 GPT-Red(基于 GPT-5.4-mini 的 RL 自博弈训练)在攻击模型对防御模型的对抗训练中发现。
- 这类注入不仅能达成特定恶意目标,还能诱导防御模型在公开输出渠道重复该注入本身,像计算机蠕虫一样自我传播。
- OpenAI 强调:影响仅限于训练与评测中的模拟工具调用,未观察到真实世界影响,披露原因是其新颖性而非任何事故。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11
- Alice & Bob:约 2.5 万个 cat qubit 三天可破 RSA-2048 — AryHHAry · 2026-11-11