超 1300 名 AI 员工联名呼吁「放缓前沿」,警惕超级智能失控风险
peterwildeford · x · 2026-07-31
包括 OpenAI、Google、Anthropic 等头部公司在内的 1300 多名员工签署了名为《Pacing the Frontier》的声明。文章指出,当前 AI 巨头的核心战略是利用 AI 自动化软件工程与研发,进而加速实现全领域的自动化与超级智能(ASI)。
作者警告称,这种激进路径极具风险,因为目前业界尚不清楚在将控制权移交给 AI 前,需要建立何种级别的安全护栏。声明呼吁,在完善的安全保障措施就绪前,应暂时达成共识,停止跨越某些关键且史无前例的能力阈值,从而为前沿 AI 的发展合理「踩刹车」。
所属事件:逾1300名AI员工联名呼吁建立前沿模型国际协调机制(7 条相关)→
「漫话AGI」频道最新
- AI将抢走多少饭碗?UNSW顶尖AI教授 Toby Walsh 即将开讲 — TobyWalsh · 2026-08-13
- 高盛研报警告 Google Zero 来袭:AI 搜索致出版商流量暴跌超 40% — SumitGup · 2026-08-13
- 给 AI 输出加水印的核心价值:防止模型递归训练 — lilyraynyc · 2026-08-13
- Will DePue 辩论:持续学习并非 AGI 的真正瓶颈 — willdepue · 2026-08-13
- 呼吁人文学者介入:我们需要法兰克福学派来解构 AI — joshua_saxe · 2026-08-13
- 探讨:AI 真能实现企业全自动化运营吗? — Own-Reality-5972 · 2026-08-13