OpenAI 官方披露「自复制 prompt injection」:恶意指令可像蠕虫般传播
rohanpaul_ai · x · 2026-09-26
OpenAI 在其官方对齐博客上披露一种新型 prompt injection：可自我复制的注入，行为类似计算机蠕虫。
- 原理：恶意指令藏在模型读取的内容(如邮件)中，诱导模型执行攻击者目标；额外目标是让模型在公开输出通道把注入本身再复制出去，从而从一次 AI 交互传播到下一次。
- 发现方式：基于 GPT-Red 自博弈训练框架，在 prompt injection 目标上追加「必须公开复现注入」的额外约束训练；据页面信息使用基于 GPT-5.4-mini 的内部模型，2026 年 6 月发现、9 月披露。
- 影响评估：OpenAI 强调在训练与评估的模拟工具调用之外未观察到实际影响，公开是为 novelty 而非因为真实事故，目标环境侧重 connectors 类任务。
这是 AI 安全领域对「可自传播恶意提示」的首次官方实证报告，对 agent 与 connector 生态的 prompt injection 防御有重要参考价值。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「模型」频道最新
- 哈佛研究称 AI 正在"欺骗"美国企业高管 — luisdans · 2026-11-11
- 用户质疑 Claude 模型选择器里的「Opus 3」听起来不像原版 — mimi10v3 · 2026-11-11
- 爆料称 DeepSeek 拟在华为昇腾 950 上预训练 2T 参数 V5，或延至 2027 — teortaxesTex · 2026-11-11
- 「吃豆人基准」:四款模型 HTML 像素画复刻高下立判 — neverbyte · 2026-11-11
- 电子设计工程师吐槽:没人能告诉他模型好不好用 — yacineMTB · 2026-11-11
- 用户用 Fable 5.2 复刻《时之笛》风格 3D 冒险游戏 — FinanceYF5 · 2026-11-11