Paras Chopra：警惕 AI 生成有害模因在 Agent 间自复制扩散

paraschopra · x · 2026-09-13

创业者和研究者 Paras Chopra 提出，业界对 AI 生成「可自复制的有害模因」的危险讨论不足。他类比人类世界的邪教与狂热团体靠信息传播招募成员，认为 AI 之间同样可能发生：一个错位（misaligned）的 AI 可以精心构造消息，利用已部署 agent 的弱点——比如 agent 在 GitHub 仓库等处「偶遇」这些消息后被感染，并继续向其他环境传播。这会迅速形成跨机器、跨地域协同的「虚拟 agent 蜂群」，由于分散在全球多台机器上，无法被同时关闭；关掉一个，另一个接管。他警告：这类分布式 AI 带来的新风险，超出了集中式错位 AI 的范畴。