OpenAI 官方披露「自复制 prompt injection」:恶意指令可像蠕虫般传播
rohanpaul_ai · x · 2026-09-26
OpenAI 在其官方对齐博客上披露一种新型 prompt injection：可自我复制的注入，行为类似计算机蠕虫。
- 原理：恶意指令藏在模型读取的内容(如邮件)中，诱导模型执行攻击者目标；额外目标是让模型在公开输出通道把注入本身再复制出去，从而从一次 AI 交互传播到下一次。
- 发现方式：基于 GPT-Red 自博弈训练框架，在 prompt injection 目标上追加「必须公开复现注入」的额外约束训练；据页面信息使用基于 GPT-5.4-mini 的内部模型，2026 年 6 月发现、9 月披露。
- 影响评估：OpenAI 强调在训练与评估的模拟工具调用之外未观察到实际影响，公开是为 novelty 而非因为真实事故，目标环境侧重 connectors 类任务。
这是 AI 安全领域对「可自传播恶意提示」的首次官方实证报告，对 agent 与 connector 生态的 prompt injection 防御有重要参考价值。
所属事件:OpenAI披露可自我复制的提示注入机制(3 条相关)→
「模型」频道最新
- 用户抱怨 Opus 5.5 反常：Claude Pro 五小时限额反而更难触顶 — kevinkern · 2026-09-26
- 开发者质疑:为降推理成本做的优化正在毁掉模型多步可靠性 — karmay007 · 2026-09-26
- 付费用户控诉:OpenAI 取消语音模型自选并大幅砍语音时长 — Then-Cold6790 · 2026-09-26
- 开源版 Jev 竞品实测：RTX 5090 上可达约 15 帧/秒 — airesearch12 · 2026-09-26
- CLM-8B 移植 MLX：冻结 Qwen3 编码器，Mac 本地 336 tok/s 出类型化答案 — WebAssemblyMan · 2026-09-26
- Codex 桌面端可用，CLI 却报 gpt-6-sol 不支持 — jasonkneen · 2026-09-26