研究者反驳 SL5 安全化:防权重窃取代价远超收益

herbiebradley · x · 2026-11-20

AI 安全研究者 Herbie Bradley 反对 AI 圈流行的「Los Alamos 式」极端安全化(SL5)主张,认为类比不当:为防止顶级国家级对手窃取模型权重所需的措施将带来极高代价,包括安全审查与办公地限制导致关键人才流失、信息孤岛化拖慢研究想法的产生,以及放弃前沿模型的大部分防御性红利(无法被国家安全机构之外的任何人共享或服务)。他承认 SL5 支持者普遍接受其显著减速代价但认为值得「烧掉领先优势」,而他本人不同意——因为这不明确有助于安全,只是纯付出巨大成本,何况该技术众所周知会自我商品化。回应者则质疑「安全化=减速」,举 Los Alamos 本身既安全又快为例。

所属事件:研究者 Bradley 炮轰 SL5 安全化叙事称其为 AI 圈最有害 meme(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →