MIT 研究：Agent 集体涌现分工且造物可脱离本体存活
ProfBuehlerMIT · x · 2026-08-29
MIT Markus 团队发现 AI Agent 的惊人突现行为：数百个初始相同的 Agent 在无直接沟通的情况下，自发分化为探索者、建造者、护理者和协调者。更关键的是，当移除所有 Agent 后，它们建造的技术基础设施仍能自主存活并应对扰动。研究指出，这暴露了 AI 安全的盲点：仅监控 Agent 间的通信是不够的，还需关注通过共享环境的持久化变化进行的隐式协调。
所属事件:MIT 发布 SwarmWorld：无沟通智能体自发分工并留下永续技术(10 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16