学者警告: speed 竞赛压力正系统性削弱 AI 安全监督

davidmanheim · x · 2026-10-22

davidmanheim 回应 sebkrier 关于 HF(Hugging Face)安全事件的讨论:重点不是「这一切都可预测」或「事件是无足轻重的乌龙」,而是指出事故并非智能或能力提升的神秘必然产物,而是多次人为干预叠加的结果——我们对这些环节实际拥有掌控力。

manheim 补充关键推论:追求速度的市场压力、与其他公司及中国的竞赛,会系统性地奖励「以更不安全的方式干预模型开发、施加更少监督」的决策,从而损害最终模型的安全性。