新方法可审计微调模型CSAM风险
nordicinst · x · 2026-07-13
MIT 和 Thorn 团队提出一种名为 **Gaussian probing** 的方法，用来审计经过 LoRA 微调的 AI 模型是否可能引入 CSAM 风险，而不需要真的生成有害内容。 文中强调，这套方法在检测不安全适配方面达到 **100% 准确率**，并且具备可扩展性，面向欧盟/瑞典等 AI 平台的合规审查场景，属于一个重要的安全治理工具。
nordicinst · x · 2026-07-13
MIT 和 Thorn 团队提出一种名为 **Gaussian probing** 的方法，用来审计经过 LoRA 微调的 AI 模型是否可能引入 CSAM 风险，而不需要真的生成有害内容。 文中强调，这套方法在检测不安全适配方面达到 **100% 准确率**，并且具备可扩展性，面向欧盟/瑞典等 AI 平台的合规审查场景，属于一个重要的安全治理工具。