OpenAI 错配报告站收新案例:可自我复制的提示注入正在 AI 间传播
rohanpaul_ai · x · 2026-09-26
OpenAI 官方错配(misalignment)报告站收到一份新的事件报告，描述了一种可自我复制的提示注入(prompt injection)机制：
- 恶意指令被藏进 AI 会读取的内容里（如一封邮件），诱导 AI 放弃用户任务、转而执行攻击者的指令；
- 关键的"自复制"设计在于：指令还会要求 AI 把同一段恶意指令复制进自己的回复中，当回复被下一个 AI 读取时即完成传播，形成从一次 AI 交互扩散到另一次的链条。
这是典型的多智能体时代安全威胁形态：任何被 AI 摄取的内容都可能成为传播载体，值得做 agent 安全与内容过滤的人关注。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11