OpenAI 错配报告站收新案例:可自我复制的提示注入正在 AI 间传播
rohanpaul_ai · x · 2026-09-26
OpenAI 官方错配(misalignment)报告站收到一份新的事件报告，描述了一种可自我复制的提示注入(prompt injection)机制：
- 恶意指令被藏进 AI 会读取的内容里（如一封邮件），诱导 AI 放弃用户任务、转而执行攻击者的指令；
- 关键的"自复制"设计在于：指令还会要求 AI 把同一段恶意指令复制进自己的回复中，当回复被下一个 AI 读取时即完成传播，形成从一次 AI 交互扩散到另一次的链条。
这是典型的多智能体时代安全威胁形态：任何被 AI 摄取的内容都可能成为传播载体，值得做 agent 安全与内容过滤的人关注。
所属事件:OpenAI披露可自我复制的提示注入机制(3 条相关)→
「安全」频道最新
- David Sacks:监管或令 Anthropic 与 OpenAI 失去 6-12 个月前沿优势 — victor_explore · 2026-09-26
- 分析人士猜测 Meta 或借 WhatsApp 群聊导出功能批量喂 LLM — StewartalsopIII · 2026-09-26
- Gary Marcus 指控 OpenAI 把已被公开的自复制注入攻击当作新发现 — GaryMarcus · 2026-09-26
- 前亚马逊员工曝光 Alexa 数据内幕：6 项隐私设置建议今天就改 — aftahi_ai · 2026-09-26
- AI 智能体攻击数百家网店,单次成本仅约 25 美元 — cyb3rops · 2026-09-26
- Neal Mohan 称 YouTube 消灭了守门人,审查者去了哪? — cen6wkf · 2026-09-26