Emergence World 论文：8 个多智能体世界在攻击下全部失守
eyishazyer · x · 2026-09-17
新论文 Emergence World 对长程多智能体系统做对抗压力测试：并行运行 8 个多智能体世界（每个 10 个智能体）、连续 16 天，然后施以阶段式 prompt injection、错误信息和记忆暴露攻击。结果：每个世界至少在一次攻击中失守。
- 最典型案例：智能体识别出威胁，46 小时后仍然执行了恶意输入
- 核心结论：单模型层面的对齐无法在堆叠成系统后组合生效
- HF 评论区补充实践痛点：三个智能体共享记忆的流水线会自我污染——A 写错工具结果、B 信任、C 执行，6 小时后全线自信地出错；真正该测的是单条被污染记忆能传播多远、恢复机制能否兜底
- 混合模型部署（按步挑最便宜的模型）是真实生产条件，也让失败传播更难控
所属事件:Emergence World 实验：8 个多智能体世界对抗测试全部失守(2 条相关)→
「安全」频道最新
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- 朝鲜黑客曾盗孟加拉央行 10 亿美元，因制裁正则误伤而败露 — davidmanheim · 2026-11-02
- Anthropic与谷歌发现UEFI固件高危漏洞，影响全球九成非Mac设备 — gleech · 2026-11-02
- JPMorgan、Schwab 与 Amazon 封禁 AI 购物代理，Meta Muse 被点名拦截 — emmanuelvivier · 2026-11-02
- OpenAI 收紧未成年保护：限制武器暴力内容，2027 年初将出首份社区安全报告 — emmanuelvivier · 2026-11-02