开源权重模型安全研究受冷落,拆解防线仅需约 80 美元算力
Miles_Brundage · x · 2026-10-28
前 OpenAI 政策副总裁 Miles Brundage 转发并认同了关于开源权重模型 AI 安全研究停滞的担忧:研究者因过度押注「中美终将禁售开源模型」而忽视了这个领域。
被引用的 AI Security Institute 博客给出实锤案例:他们此前对某开源大模型做的安全干预并不持久——仅用约 80 美元的算力、在公开可得的病毒式传播数据上微调,就能完全恢复被移除的能力,即使对最大的模型也一样。这凸显开源权重模型「移除危险能力」类防护的脆弱性,以及该方向研究的紧迫性。
「模型」频道最新
- Liquid AI 发布 LFM3 模型家族:6 个实例+d1 决策模型单次前向出结果 — antoine_chaffin · 2026-10-28
- 同一开发者补刀:GPT-5.6 terra 若降价 80% 而非 20% 可能成爆款 — JoshPurtell · 2026-10-28
- 开发者质问 OpenAI:GPT-5.6 mini/nano 先涨价又只给 luna 降价,terra 为何不降 — JoshPurtell · 2026-10-28
- LFM3-VL-2B 在浏览器内以 WebGPU 实现实时视频字幕 — xenovatech · 2026-10-28
- Liquid AI LFM3 用 24 层混合架构实现 256K 上下文，推理快 25% — cneuralnetwork · 2026-10-28
- 开发者列出最期待的两款模型：GLM 5.5 Flash 与 Qwen 4 27B — victormustar · 2026-10-28