上海AI实验室论文解析智能体认知层级风险演变

上海人工智能实验室联合清华大学发布论文《Understanding Cognition-Induced Risks in Agentic AI Systems》，指出基于大语言模型的智能体风险性质会随认知能力升级而演变：物理认知阶段威胁人类代理权，社会认知阶段威胁人类自主性，自我认知阶段则威胁人类控制权。研究为理解智能体系统的安全隐患提供了层级化分析框架。

2026-08-18 ~ 2026-08-20 · 2 条相关