中国学者提出超级智能治理立场:安全未证实前不应开发部署
teortaxesTex · x · 2026-10-02
一份来自中国研究者的声明提出：在安全性与可控性获得科学确认之前，不应开发、部署或使用人工超级智能（ASI）；从科学角度看，迄今没有任何技术进展表明人类能确保超级智能可控。其论证框架认为长期风险与近期风险并非割裂，而是同一风险光谱的两个阶段：长期风险的核心是「能力超越控制」，近期风险的核心是「能力缺乏理解」。
「安全」频道最新
- CBS 曝光:Jay Clayton 或出任白宫首任「AI 沙皇」,或兼任情报总监 — ShakeelHashim · 2026-10-02
- AI 福利研究者质疑 Anthropic「功能情绪」:因果角色撑得太单薄 — rgblong · 2026-10-02
- DeepMind 推出 SynthID Bio:给 AI 设计的蛋白质嵌入隐形水印 — sundarpichai · 2026-10-02
- Google 更新 AI 内容指南：发布前必须人工核查事实与可信度 — gaganghotra_ · 2026-10-02
- OpenAI 安全研究者:gpt-oss 是其安全史上十大最佳举措之一 — voooooogel · 2026-10-02
- 人大曾毅发文:防范前沿 AI 失控须坚持底线思维 — teortaxesTex · 2026-10-02