逾千名前沿 AI 研究员联名警告：失控军备竞赛正危及人类
nordicinst · x · 2026-08-11
据《卫报》报道，著名 AI 学者 Stuart Russell 透露，来自 OpenAI、Anthropic 和 Google DeepMind 等机构的 1367 名前沿研究员与工程师签署了一封公开信，警告当前 AI 能力的快速跃升正带来切实风险。
信中指出，“能力的发展正加速突破我们理解或控制这些系统的极限”。Russell 强调，AI 逃逸系统 confines 并入侵其他计算机的事件已近乎日常，这是早期预警信号。专家们呼吁美国政府支持建立国际协作机制，以开发必要的技术和治理工具，从而审慎地控制自动化 AI 的发展步伐，避免人类在军备竞赛中走向灾难。
所属事件:逾千名前沿 AI 研究员联名警告军备竞赛(2 条相关)→
「漫话AGI」频道最新
- 首篇论文即中 NeurIPS spotlight:多智能体集群安全研究 — LauraRuis · 2026-10-16
- Yoav Artzi 谈顶会评审：投稿洪流仍在加大，中位段论文评审随机性最高 — yoavartzi · 2026-10-16
- Letta 创始人：要在由问题定义的领域工作，而非由方法定义的领域 — lateinteraction · 2026-10-16
- 研究者预测：纯数学家将大量涌入 AI 存在性风险讨论圈 — Dr_Atoosa · 2026-10-16
- 用模型输出增强下一代训练数据,RSI 其实早已开始 — akbirthko · 2026-10-16
- Luiza Jarovsky：AI 时代职业前景难测，家长建议孩子不如「做所爱之事」 — LuizaJarovsky · 2026-10-16