安全研究者警告:第三方生态须扩容评估体系,赶在超人类 AI 前推动全球暂停
austinc3301 · x · 2026-11-09
nikolaj2030 提出:「大幅超越人类的 AI」最早可能明年出现,第三方生态必须紧急扩大对 AGI 公司 RSI 相关评估的雄心与规模,以便在不可逆点之前促成全球暂停。配图论证了两种路径:一次性触发全球暂停会因第三方参与规模与实际经验之间差距过大而脆弱;而「增量塑形」的暂停路径通过逐步升级的参与让生态积累执行经验,更可能成功。属于安全阵营的议程倡议,无具体技术方案。
「漫话AGI」频道最新
- OpenAI 工程师:普惠智能加速工程,汽车更安全住房更便宜 — OfficialLoganK · 2026-11-09
- AI 赢得舆论的打法：谈治病、降成本，别只谈数据中心 — nbaschez · 2026-11-09
- Patrick Collison 思考 AI 好结局:人类还工作吗、稀缺是什么 — mhmazur · 2026-11-09
- Pedro Domingos:期刊应用全量投稿训练 AI 做初审审稿人 — pmddomingos · 2026-11-09
- 提醒：AI 是永不停歇的谎言机器，会挑拨人类互相敌视 — gnukeith · 2026-11-09
- 「完美人类」笔记：让 LLM 把每个使用者越用越聪明 — keyanzhang · 2026-11-09