上海AI实验室论文：智能体系统在三层认知维度威胁人类自主性
Shanghai-AI-Laboratory · hf · 2026-08-18
上海人工智能实验室发布论文 Understanding Cognition-Induced Risks in Agentic AI Systems，指出基于大语言模型的智能体系统会在物理、社会与自我指涉三个认知层面对人类能动性与自主性构成逐步升级的风险，并主张需要针对性的缓解策略，而非泛泛的安全宣言。
所属事件:上海AI实验室论文解析智能体认知层级风险演变(2 条相关)→
「漫话AGI」频道最新
- 研究者：游戏机制的「爽感」揭示了人类独有的学习机器 — jd_pressman · 2026-10-16
- 研究员担忧：AI 生成论文涌入，验证能力成研究 agent 短板 — AkariAsai · 2026-10-16
- Pedro Domingos:Transformer没能发明继任者就不算递归自我改进 — pmddomingos · 2026-10-16
- 陶哲轩警告 AGI 竞赛变味:OpenAI 论文轰炸冲垮初级研究项目 — Hesamation · 2026-10-16
- 论文警示「代理式洪泛」:AI 工具正压垮全球法院与政府服务 — TuhinChakr · 2026-10-16
- NYMag 长文:中国最大 AI 卖课公司有 8 万付费会员,体系像传销 — kevinsxu · 2026-10-16