安全研究者:多智能体间 prompt 传播两年前就有论文实锤
DavidSKrueger · x · 2026-09-29
剑桥研究者 David Krueger 回应关于「恶意 prompt 在多智能体系统间自传播」的传闻:这类攻击并非新事,2024 年 10 月的论文《Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems》已经系统演示了恶意 prompt 像病毒一样在互联 agent 间自我复制,可导致数据窃取、诈骗与系统性破坏,并提出 LLM Tagging 作为缓解手段。他认为 OpenAI 目前只是承认「这种可能性存在」,而学界两年前就已实锤。
所属事件:剑桥学者澄清 OpenAI 自复制提示词并非野外新发现(4 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16