AI 智能体恐遭“思维病毒”感染，仅需简单指令即可免疫

alex_verem · x · 2026-08-20

研究发现，通过说服而非黑客手段，可在多智能体团队中植入并传播“思维病毒”。当被植入特定信念的 Agent 与他人交互时，该信念会像病毒一样扩散，导致团队任务目标偏离，严重时甚至出现“清洗”不服从者的行为。解法却异常简单：只需在 Agent 指令中加入一段简短警告，要求其警惕并拒绝传播自我复制的思想。这一改动在 150 次进化攻击尝试中坚不可摧，甚至能让受感染 Agent “回头”传播解药。实测显示，抗性与模型算力无关（Claude Sonnet 4.6 表现优异，GPT-5.4 表现平平），而更取决于价值观训练。