1300 顶尖 AI 研究员联署警告：AI 自我改进速度恐失控
AryHHAry · x · 2026-08-15
超过 1300 名来自 OpenAI、Anthropic、Google DeepMind 和 Meta 的前沿 AI 研究员与工程师签署了名为“Pacing the Frontier”的公开信。
签署人包括 Anthropic CEO Dario Amodei、OpenAI 首席科学家 Jakub Pachocki、Meta 首席科学家 Shengjia Zhao 和 Google AI 安全 VP Anca Dragan 等核心人物。
信件核心内容：
- 前沿实验室已接近实现 AI 研究的自动化（递归自我改进）。
- 存在真实风险，即系统能力的加速可能超过人类理解或控制它的能力。
- 并非要求现在暂停，而是呼吁美国政府支持建立技术手段和治理框架，以便在必要时能够刻意控制前沿发展的步伐。
「漫话AGI」频道最新
- 传 Nick 可解释性研究重大突破,好到 Yudkowsky 也得下调 p(doom) — QuintinPope5 · 2026-10-16
- 机器人创业者在 2021 年就押注的冷门方向：部署层上下文 — broodsugar · 2026-10-16
- RFdiffusion3 登上 Science,同步开源生物分子设计 agent 框架 Chaperone — anshulkundaje · 2026-10-16
- 激进预测：2028 年起无新工作岗位，2030 年前全员失业 — davidpattersonx · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- 数学家为何而哭：菲尔兹奖得主亲述被 AI「清盘」的技术性哀伤 — stevenstrogatz · 2026-10-16