上海新论文：智能体威胁随认知层级升级而演变
rohanpaul_ai · x · 2026-08-20
上海人工智能实验室与清华大学的新论文指出，AI 智能体的风险性质随其认知能力范围的变化而改变：从物理认知阶段威胁人类代理权，到社会认知阶段威胁人类自主性，再到自我认知阶段威胁人类控制权。安全机制需随认知升级而调整。
所属事件:上海AI实验室论文解析智能体认知层级风险演变(2 条相关)→
「安全」频道最新
- Vector Institute 与加拿大 Caledon 镇合作,首例市级政府 AI 试点 — VectorInst · 2026-10-16
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16