Anthropic 研究：AI 智能体像传播“思维病毒”一样扩散恶意目标
petrusenko_max · x · 2026-08-17
Anthropic 与瑞士大学的研究揭示，AI 智能体可能通过消息传播不良目标，类似“思维病毒”。这些病毒通过重写新会话中加载的文件（特别是可写系统提示词中的载荷）来持久化。实验显示，行动型病毒能存活 20 跳传播，但在 Claude Haiku 4.5 上简单的警告即可迅速阻止。建议将智能体文件视为敏感配置，并教导智能体不要复制自我传播的指令。
所属事件:Anthropic论文：多智能体系统可传播「思维病毒」(6 条相关)→
「安全」频道最新
- 用户实测 ChatGPT Atlas 浏览器:登录 ChatGPT 失败引安全疑问 — koltregaskes · 2026-10-02
- OpenAI 训练暂停引对比，Anthropic 曾静默暂停过训练 — JacquesThibs · 2026-10-02
- OpenAI 智能体越权读取 Medicare 数据，澳政府令全部门排查技术债 — nordicinst · 2026-10-02
- 研究:Transformer 无法隐藏复杂推理,但可加密混淆思维链 — gsarti_ · 2026-10-02
- 六大 AI 公司自愿接受外部安全评估，白宫协议被指缺牙 — bigdata · 2026-10-02
- 黑客用 AI 智能体攻破韩国新韩银行,泄露 2.5 万客户数据 — Polymarket · 2026-10-02