研究者反驳 SL5 安全化:防权重窃取代价远超收益
herbiebradley · x · 2026-11-20
AI 安全研究者 Herbie Bradley 反对 AI 圈流行的「Los Alamos 式」极端安全化(SL5)主张,认为类比不当:为防止顶级国家级对手窃取模型权重所需的措施将带来极高代价,包括安全审查与办公地限制导致关键人才流失、信息孤岛化拖慢研究想法的产生,以及放弃前沿模型的大部分防御性红利(无法被国家安全机构之外的任何人共享或服务)。他承认 SL5 支持者普遍接受其显著减速代价但认为值得「烧掉领先优势」,而他本人不同意——因为这不明确有助于安全,只是纯付出巨大成本,何况该技术众所周知会自我商品化。回应者则质疑「安全化=减速」,举 Los Alamos 本身既安全又快为例。
所属事件:研究者 Bradley 炮轰 SL5 安全化叙事称其为 AI 圈最有害 meme(2 条相关)→
「漫话AGI」频道最新
- DeepMind 高管 Koray:AGI 不会有单一测试,模型正变得更平滑可靠 — OfficialLoganK · 2026-11-20
- 一年改变一个行业:Anthropic 上市、黄仁勋卸任引发感慨 — ColleenMBrady · 2026-11-20
- 前 Anthropic/OpenAI 研究员预言:2028 年底 80% 认知劳动被自动化 — rohanpaul_ai · 2026-11-20
- 凯文·徐谈华尔街视角下的零和 AI 是什么样子 — kevinsxu · 2026-11-20
- 网友吐槽:AI 快能干大部分脑力活,企业却还在喊提效 15% — VraserX · 2026-11-20
- 研究者呼吁慈善资金补齐AI制药数据缺口:没有数据就没有治愈 — juanbenet · 2026-11-20