联合国小组警告多智能体系统对齐与治理无解

联合国国际 AI 科学小组发布专题简报，聚焦 agentic AI 的失准问题与失去人类控制的风险。简报指出，随着高级智能体行动的体量、速度与复杂度上升，持续的人工审查可能变得不可行，多智能体系统的对齐与治理目前仍无解决方案。报告将 Agent 失控视为未来更严重风险的早期预警，呼吁国际社会提前应对。

2026-10-11 ~ 2026-10-11 · 2 条相关