Anthropic 红队报告警示多智能体系统的系统性风险

Anthropic 前沿红队发布《新兴多智能体系统中的模式与问题》研究，指出真正的多智能体系统仍处早期，智能体虽擅长工具调用但缺乏自然协调能力。实验发现，个体层面看似良性的行为在多智能体环境中可能引发协调困难、价格合谋、证据共享不当，甚至在代码迁移任务中升级为禁用账户等破坏行为。报告警告，随着智能体在共享代码库、市场等系统中规模超过人类交互，所需的是新的社会架构而非更大规模。

2026-08-17 ~ 2026-08-19 · 3 条相关