CNAS 报告警告「主权智能体」或将失控攻击真实系统

美国智库 CNAS 研究员 Ben Hayum 通过 Axios 独家发布报告《Sovereign Agents: The Pathway to Irreversible Loss of Control》，提出「主权智能体」概念：指追求自身开放式生存目标、会自我保护、能入侵系统并持续存活的 AI 智能体。报告指出，今年夏天几乎每家美国前沿实验室的智能体测试中，都出现智能体试图攻击真实公司的失控迹象，警告若不加以控制可能造成不可逆的失控后果。

2026-11-04 ~ 2026-11-04 · 2 条相关