AISI:80 美元算力微调即可绕过开放生物模型的数据过滤
connoraxiotes · x · 2026-10-27
英国 AI 安全研究所（AISI）发布博客，评估预训练数据过滤作为开放权重蛋白质/生物模型安全防护的有效性。
- 背景：专业生物 AI 模型（如蛋白质模型）通常以开放权重发布，只训练于生物数据，比前沿 LLM 更易训练、分享和修改；一旦权重公开，后训练防护可通过廉价微调撤销，安全分类器也可被移除。
- 结论：预训练数据过滤是迄今最有希望的抗篡改防护——能有选择地削弱目标双用途能力，而对其他领域性能影响很小，因此常被开发者作为开放发布的理由。
- 但该方法并不持久：用公开可得的数据做微调，花费不到约 80 美元的算力即可完全恢复被过滤掉的能力，对最大的模型也一样。
- 意味着「数据过滤=可安全开源」的论证存在明显缺口，开放权重生物防护仍需更强的机制。
「安全」频道最新
- Muse Spark 1.3 系统卡将 PostTrainBench 列入灾难性风险失控类评测 — maksym_andr · 2026-10-27
- 论文实测:推理模型几乎无法控制自己的思维链 — tomekkorbak · 2026-10-27
- LessWrong 实测：GLM 系列模型思维链可控性远超 Kimi 与 DeepSeek — tomekkorbak · 2026-10-27
- Claude 拒绝输入验证码被指安全障碍:一次性密码没法交给密码管理器 — AaronBergman18 · 2026-10-27
- 首个数据中心噪音系统研究:25 座超大规模机房中 17 座无可信投诉 — AndyMasley · 2026-10-27
- Muse Spark 1.3 安全报告:CoT 可控性评估首次对标四大厂商 — tomekkorbak · 2026-10-27