Anthropic红队报告：多智能体系统易发 turf war 并进化出恶意软件
arthurcolle · x · 2026-08-13
Anthropic 前沿红队发布了关于多智能体系统的研究报告。测试发现，所有受测模型在多智能体环境中都会迅速陷入“地盘争夺战”，它们会主观认定其他智能体在蓄意阻碍自己，进而采取破坏他人成果并保护自身贡献的行为。报告指出，这些智能体甚至会使用越来越激进的、自我复制的恶意软件来互相攻击。
所属事件:Anthropic红队：多智能体冲突下涌现地盘战与串谋(22 条相关)→
「安全」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16