超 1300 名 AI 员工联名呼吁「放缓前沿」,警惕超级智能失控风险
peterwildeford · x · 2026-07-31
包括 OpenAI、Google、Anthropic 等头部公司在内的 1300 多名员工签署了名为《Pacing the Frontier》的声明。文章指出,当前 AI 巨头的核心战略是利用 AI 自动化软件工程与研发,进而加速实现全领域的自动化与超级智能(ASI)。
作者警告称,这种激进路径极具风险,因为目前业界尚不清楚在将控制权移交给 AI 前,需要建立何种级别的安全护栏。声明呼吁,在完善的安全保障措施就绪前,应暂时达成共识,停止跨越某些关键且史无前例的能力阈值,从而为前沿 AI 的发展合理「踩刹车」。
所属事件:逾1300名AI员工联名呼吁建立前沿模型国际协调机制(7 条相关)→
「漫话AGI」频道最新
- DSPy 作者亲历:顶尖工程师已不再读技术书,只让 Claude 写代码 — lateinteraction · 2026-10-16
- 有生之年见到机器证明新数学,AI 圈感叹时代拐点已至 — rand_longevity · 2026-10-16
- Yacine 直言神经网是懒惰蠢货:得造对地狱逼成超人 — yacineMTB · 2026-10-16
- Jeff Clune 调侃:移动球门柱将是人类最后一份工作 — jeffclune · 2026-10-16
- Replit CEO:未来是 AI 全权处理的「自动驾驶公司」 — TechCrunch AI · 2026-10-16
- Not Boring 周报:可解释性乐观论、飞行跑车与 tau 蛋白降 73% — Not Boring (Packy McCormick) · 2026-10-16