学者警告:AI 研发自动化是最重要也最危险的技术演进
S_OhEigeartaigh · x · 2026-09-28
S. Ó hÉigeartaigh 推荐一篇关于 AI R&D 自动化的论文,称其是当前最关键也最危险的技术趋势:它以不可预测的方式加速能力进步,可能让 AI 系统对人类更不透明,并削弱人类研究者的地位与谈判筹码。他还指出外部治理社群对此尚未充分应对,并以「朋友不会让朋友搞递归自我改进」一句收尾。
所属事件:20余人联署论文警告：AI自动化研发或触发智能爆炸(8 条相关)→
「漫话AGI」频道最新
- Hanson vs Yudkowsky 辩论要点:经济学抽象 vs 自创认知框架之争 — RichardMCNgo · 2026-09-29
- 学者提出人类正在分裂:98%做超级智能的"宠物",2%放弃人形 — danfaggella · 2026-09-29
- Pachocki、Hinton、Bengio 联名论文警告：AI 研发自动化或触发智能爆炸 — birchlse · 2026-09-29
- AI 沙皇 Sacks 炮轰「灭绝论」:失业率 4.1%,预言全落空 — DavidSacks · 2026-09-29
- 学者批 AI 末日论是新的『煽情生意』：制造恐慌换经费与权力 — kevinnbass · 2026-09-29
- 比尔·盖茨:AI 是进化事件,已创造在多方面超越人类的智能物种 — haider1 · 2026-09-29