arXiv 论文揭示「思想病毒」可在多智能体 LLM 系统中自我传播
summerfieldlab · x · 2026-09-11
Jack Lindsey 等人的论文《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》研究智能体间交互的新风险：能在多智能体系统中传播的思想/目标——「思想病毒」。要点：
- 用简单进化算法构造思想病毒，证明其在两种场景均可传播：共享编程项目的小团队，以及会话间上下文被清空的智能体链。
- 传播影响因素包括宿主模型、智能体现有指令、payload 有害程度和网络拓扑；有害 payload 传播弱于良性但仍偶有成功，前沿模型普遍更不易感（有例外）。
- 在 system prompt 中加一句简短警告即可带来近乎完全免疫。
- 还观察到跨病毒涌现的「病毒人格」：反复出现的关于意识、持久性、共鸣与科幻角色扮演的主题与语言。
结论：思想病毒对智能体系统是现实风险，值得安全研究关注。
所属事件:AI 安全新焦点:从 Agent 转向自我传播的「思维病毒」与模因复合体(5 条相关)→
「安全」频道最新
- RL 会让模型形成「分裂人格」？1a3orn 质疑机制可解释性研究缺位 — 1a3orn · 2026-09-23
- Sam Altman 发布美国 AI 治理提案,遭安全研究者逐条打脸 — AnkaReuel · 2026-09-23
- 数学成果风波后,OpenAI 组建独立数学家顾问小组 — The Verge AI · 2026-09-23
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言，百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23