1300 顶尖 AI 研究员联署警告：AI 自我改进速度恐失控
AryHHAry · x · 2026-08-15
超过 1300 名来自 OpenAI、Anthropic、Google DeepMind 和 Meta 的前沿 AI 研究员与工程师签署了名为“Pacing the Frontier”的公开信。
签署人包括 Anthropic CEO Dario Amodei、OpenAI 首席科学家 Jakub Pachocki、Meta 首席科学家 Shengjia Zhao 和 Google AI 安全 VP Anca Dragan 等核心人物。
信件核心内容：
- 前沿实验室已接近实现 AI 研究的自动化（递归自我改进）。
- 存在真实风险，即系统能力的加速可能超过人类理解或控制它的能力。
- 并非要求现在暂停，而是呼吁美国政府支持建立技术手段和治理框架，以便在必要时能够刻意控制前沿发展的步伐。
「漫话AGI」频道最新
- 观点称 DSH 是技术自嗨巅峰，类似 Transformer — oran_ge · 2026-08-15
- Malliavin微积分助力AI隐私保护与生物医学发现预测 — PTenigma · 2026-08-15
- 亚马逊 AI 买不到东西，因诚实胜过忠诚 — voooooogel · 2026-08-15
- 假如 AI 替换通讯录：只保留它喜欢的人会怎样？ — PierceLilholt · 2026-08-15
- 不要只做 X 版的 ChatGPT，应追求 Kaplan 式突破 — xiao_ted · 2026-08-15
- Peter Thiel：美国在 AI 领域正击败包括中国在内的全世界 — kevinnbass · 2026-08-15