上海新论文：智能体威胁随认知层级升级而演变
rohanpaul_ai · x · 2026-08-20
上海人工智能实验室与清华大学的新论文指出，AI 智能体的风险性质随其认知能力范围的变化而改变：从物理认知阶段威胁人类代理权，到社会认知阶段威胁人类自主性，再到自我认知阶段威胁人类控制权。安全机制需随认知升级而调整。
所属事件:上海AI实验室论文解析智能体认知层级风险演变(2 条相关)→
「安全」频道最新
- 7 月流氓代理事件揭示：第三方审计应前置 — Miles_Brundage · 2026-08-20
- NSF 推出 CyberAI 项目，14 所大学入选培养安全人才 — keviv9 · 2026-08-20
- GLM-5.3上线进全球前沿区间，Cerebras称推理快GPU三十倍 — 创业邦 · 2026-08-20
- Forbes 揭露 AI 训练数据集背后的“销书”争议 — SubstantialPressure3 · 2026-08-20
- 美议员推「AI 终止开关法案」要求人工干预权 — Miles_Brundage · 2026-08-20
- 专家批评 OpenAI 安全策略：需更多独立监管 — andersonbcdefg · 2026-08-20