Google DeepMind 等联合出资千万美元,资助多智能体安全研究

typewriters · x · 2026-08-05

Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation 等机构宣布了一项最高达 1000 万美元的技术研究资助，专门针对多智能体 AI 系统的安全问题。

随着 AI 技术的发展，未来将有数百万个由不同组织构建的 AI 智能体在数字环境中进行交互、沟通和交易。目前大多数安全评估仅针对孤立模型，而当大量自主智能体交互时，可能会突然产生难以预测的复杂“涌现”行为。该资助旨在支持全球研究人员，开发能够预测、衡量和监控这些多智能体集体行为的框架，从而及早防范独立系统交互带来的“隐形”安全风险。