超千名前沿 AI 员工联署：呼吁政府介入放缓 AI 研发
S_OhEigeartaigh · x · 2026-07-31
一封名为 Pacing the Frontier 的公开信引起了广泛关注，该信由 1293 名来自前沿 AI 公司的员工联合签署。
核心观点与呼吁：
- 风险警示：公开信指出，AI 虽能创造更美好的未来，但并非必然。当前领先的公司认为自己接近实现 AI 研究的自动化，这可能导致技术发展速度超出人类的理解与控制能力。
-竞争困境：各公司和国家面临激烈的竞争压力，无法单方面放缓研发步伐。
- 政策诉求：呼吁美国政府支持建立国际机制，以提供必要的“缓冲时间”来应对新兴风险、开发安全措施并加强监督。
专家反馈：
- John Schulman：签署此信有助于在自动化 AI 研究加速时，建立关于协调机制可能需要的共识。
- Shengjia Zhao：AI 发展速度可能已超出社会承受能力，前沿实验室即将开发出在几乎所有智能指标上超越人类的 AI，带来前所未有的社会和安全风险。
- SOhEigeartaigh：不仅 AI 美好未来“无法保证”，失败的概率更是高得可怕，估计有约 40% 的几率导致人类灭绝或更糟的后果。
所属事件:千名前沿 AI 员工联署呼吁政府介入监管(128 条相关)→
「漫话AGI」频道最新
- Ilya Sutskever 等签署「前沿AI发展速度」公开信 — sjgadler · 2026-07-31
- DeepMind CEO 预测 2030 年实现 AGI，畅谈攻克疾病与未来社会 — MacrinePhD · 2026-07-31
- 顶尖建设者为何离开加密行业涌入 AI？ — Saul_Loveman · 2026-07-31
- 黄仁勋:构建安全 AI 的唯一方法就是把它发布出去 — heyshrutimishra · 2026-07-31
- Sam Altman 称达成超级智能后世界也不会剧变 — haider1 · 2026-07-31
- 顶级 VC 合伙人忠告:年轻人别一毕业就做风投 — arampell · 2026-07-31