学者指出:竞速压力正系统性奖励更少安全监督的模型开发决策

davidmanheim · x · 2026-10-22

AI 安全研究者 David Manheim 在回复中提出一个结构性观点:市场对速度的追求、以及与其他公司乃至中国的竞赛,会系统性地奖励那些以更不安全方式干预模型开发、施加更少监督的决策,从而削弱最终模型的安全性。

他同时澄清,这并不意味着「一切都可以预料」或「HF 事件无关紧要」,而是强调:安全性的下降并非智能或能力提升带来的神秘、必然属性,而是许多叠加干预的结果——人类对这些干预实际上拥有能动性和控制权。