学者警告:AI 研发自动化是最重要也最危险的技术演进
S_OhEigeartaigh · x · 2026-09-28
S. Ó hÉigeartaigh 推荐一篇关于 AI R&D 自动化的论文,称其是当前最关键也最危险的技术趋势:它以不可预测的方式加速能力进步,可能让 AI 系统对人类更不透明,并削弱人类研究者的地位与谈判筹码。他还指出外部治理社群对此尚未充分应对,并以「朋友不会让朋友搞递归自我改进」一句收尾。
所属事件:20余人联署报告警示AI自动化研发或触发智能爆炸(13 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16