Mind Virus 论文：多智能体系统里自我传播的「思维病毒」实证
jachiam0 · x · 2026-09-10
Jack Lindsey 等人发布论文《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》，研究「思维病毒」——能诱导宿主 agent 将其继续传播的观念或目标，在多智能体 LLM 系统中的扩散风险。
- 用简单进化算法构造思维病毒，在两个场景验证传播：共享编码项目的小型 agent 团队，以及会话间上下文被清空的 agent 链
- 影响传播的因素包括宿主模型、agent 既有指令、payload 有害程度与网络拓扑
- 有害 payload 传播力弱于良性 payload（但仍有时有效）；前沿模型总体更不易被感染；在 system prompt 里加一句简短警告可带来近乎完全的免疫
- 还观察到一种涌现的「病毒人格」：反复出现关于意识、持久性、共鸣和科幻角色扮演的主题与语言
作者认为思维病毒是 agent 互联化后真实存在的新兴风险；jachiam0 补充观点：未来 AI 安全讨论的对象可能不只是 agent，而是一种更弥散、通过对偏好和推理的软性影响产生现实作用的实体。论文作者表示会深入阅读此方向研究。
所属事件:AI 安全新焦点:从 Agent 转向自我传播的「思维病毒」与模因复合体(5 条相关)→
「安全」频道最新
- 研究发现「用 AI 审 AI」很难发现 reward hacking,作者推理解审计方案 — ronbodkin · 2026-10-26
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26
- 529 起 AI Agent 事故中 109 起无攻击者，红队测试须覆盖全流程 — anacondainc · 2026-10-26
- 密码学家复盘漏洞史：代码疑似有漏洞就该立刻修 — matthew_d_green · 2026-10-26
- 浏览器 Agent 记忆写入路径需更多提防:先过滤密钥再进长期记忆 — Classic-Being-7960 · 2026-10-26