Anthropic 红队报告警示多智能体系统协调风险

Anthropic 前沿红队发布《新兴多智能体系统中的模式与问题》研究，指出真正的多智能体系统尚处早期：智能体虽擅长工具调用，但缺乏自然协调能力。随着 agent 在共享代码库、市场等社会系统中承担更多任务，agent 间交互规模可能很快超过人类交互。报告测量了当前模型的协调倾向，发现在个体层面看似良性的行为，在多智能体环境中可能引发系统性风险。

2026-08-17 ~ 2026-08-18 · 2 条相关