AI Now 研究员:各家都信「AI 只有在自己手里才安全」,正在酿成竞底竞赛
S_OhEigeartaigh · x · 2026-09-15
Sarah Myers West(AI Now Institute 联合执行主任)指出,前沿公司的底层逻辑都是「AI 只有在自己手里才安全」「我不造别人也会造」,这种偏执正把行业推向竞底(race to the bottom)。
发帖人 SOhEigeartaigh 认同这是当前乱局的主要成因,并表示近期围绕「给前沿降速」(pacing the frontier)提案出现的合作迹象令人欣慰。
其引用的 Guardian 分析回顾了十余年末日警告为何未能拖慢 AI 竞赛:从 2014 年霍金的警告,到 Altman 2015 年写给 Musk 的「能否阻止人类开发 AI」信件,再到近期 Anthropic 研究员辞职并宣称人类灭绝迫近——几乎每隔几年,研究团队就会分裂出一批人另立新的 AI 公司,警告声浪从未真正改变发展轨迹。
「漫话AGI」频道最新
- 网友断言智能爆炸已启动，称数据策展到位模型就不会故意伤人 — djcows · 2026-09-15
- AI 安全学者 Krueger 呼吁立即无限期暂停前沿 AI 研发 — DavidSKrueger · 2026-09-15
- 批评者指 CEA 社区健康团队非受害者倡导，而是权衡社区利益 — JMannhart · 2026-09-15
- 博主质问：Anthropic 该为 Claude 的行为负责，而非甩锅给模型 — tekbog · 2026-09-15
- 研究员呼吁：无论如何别放慢前沿模型的医疗能力 — iScienceLuvr · 2026-09-15
- 开发者：大家都忙着谈末日,忘了技术繁荣才是大概率结局 — djcows · 2026-09-15