研讨会报告：多智能体交互易引发系统性安全风险

7 月 22 日，Felix Simon 分享了其参与撰写的 AI 智能体研讨会报告。报告明确指出，AI 的能力与风险都是真实存在的，并非单纯的营销噱头，尽管这些能力确实会被包装成营销叙事使用。当前 AI 风险的核心在于系统性风险，这要求外界给予高度关注。

多智能体交互风险

报告强调，AI 代理的交互风险会在系统层面叠加。单独看似安全的组件，一旦联网协作，就可能放大漏洞。在多智能体系统中，代理之间可能会互相“越狱”，或者导致数据采集型代理越过数据收集的隐性边界，从而引发严重的安全问题。

评测体系与独立监督

针对当前行业现状，报告指出围绕模型评测和排行榜的透明度依然很差。与会专家认为，如果只依靠厂商自定标准、缺乏外部审查，很难真正建立对智能体系统的信任。因此，必须大力加强独立监督与评估测试。

2026-07-22 ~ 2026-07-22 · 5 条相关