DatologyAI 梯度过滤隐性有害数据，越狱攻击成功率降 22%

DatologyAI（与 UIUC 合作）发布研究「Follow the Gradient」，提出 SafeTulu / SimpleLoRIF 方法，解决微调数据「看似无害却悄然侵蚀模型安全」的问题。主流过滤器基于静态 embedding，难以识别表面高质量但削弱 LLM 安全性的数据；该工作改用可扩展的梯度归因（SimpleLoRIF 简化为低秩梯度、仅对最后若干层计算）来过滤此类数据，可将 GCG 等攻击成功率相对降低 22%，同时基本不损及模型能力。

2026-11-03 ~ 2026-11-03 · 4 条相关

• SimpleLoRIF 用梯度对齐过滤隐性损害安全的微调数据，GCG 攻击成功率降 22% — DatologyAI · 2026-11-03
• DatologyAI 用梯度归因揪出「看似无害」的降安全数据,攻击成功率降 22% — pratyushmaini · 2026-11-03
• Datology 研究:过滤『看似无害』数据可将越狱成功率相对降低22% — pratyushmaini · 2026-11-03
• SafeTulu 用梯度替代 embedding 过滤数据，攻击成功率相对降 22% — josh_wills · 2026-11-03