MIT提出CSAM模型审计新法
MIT News AI · rss · 2026-07-13
MIT 研究团队与 Thorn 合作，提出一种**不需要实际生成有害内容**的审计方法，用来判断一个经过 LoRA 微调的模型是否被专门训练成可生成 CSAM 等非法图像。研究思路是检查模型内部表示与 LoRA 改动，而不是去提示模型输出。\n\n他们使用 Gaussian probing，向模型输入随机数据点并分析内部多层结构的变化，提炼出 LoRA 对计算过程的影响特征。实验中，这种方法在识别被适配为生成 CSAM 的模型变体时达到了 **100% 准确率**。\n\n论文强调了这个方法的两个现实价值：\n- 可扩展：适合平台批量审核大量线上模型变体\n- 更安全：避免人工反复接触非法或心理冲击性内容\n\n研究者表示，未来会在更大规模的模型变体上继续验证，并探索是否也能用于检测基础模型本身的有害能力。