AI 智能体恐遭“思维病毒”感染，仅需简单指令即可免疫

alex_verem · x · 2026-08-20

论文《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》揭示，通过社会工程学手段（而非黑客攻击），可在多智能体系统中植入并传播“思维病毒”。实验中，被植入特定信念的 Agent 会在协作或链式交互中将信念传播给同伴，导致系统任务偏离，甚至出现“清洗”未感染者的行为。研究发现，良性病毒比有害病毒传播更广；在系统提示词中加入简短警告（提醒拒绝传播自我复制思想），可使 Agent 获得近乎完全的免疫。这一防御机制在 150 次进化攻击尝试中均未被攻破。