SafeTulu 用梯度替代 embedding 过滤数据，攻击成功率相对降 22%
josh_wills · x · 2026-11-03
DatologyAI 发布新研究「Follow the Gradient」，提出 SafeTulu 方法：主流数据过滤器基于静态 embedding，难以识别表面高质量但会削弱模型安全性的数据；该方法改用梯度信号来定位并移除这类数据。
结果显示攻击成功率最高相对下降 22%，同时基本保持模型能力。论文、数据集和 Hugging Face Space 均已开源。
所属事件:DatologyAI 梯度过滤隐性有害数据，越狱攻击成功率降 22%(4 条相关)→
「安全」频道最新
- 特朗普签署机器人进口 232 调查公告：180 天内无协议或面临关税配额 — lukas_m_ziegler · 2026-11-03
- 梯度归因提速至嵌入的3倍，0.6B小模型可监测大模型训练数据的有害样本 — PeterHndrsn · 2026-11-03
- Agent 护栏放流量层还是工具调用层？开发者实测对比 — quiet_flare · 2026-11-03
- 纽约时报起诉 Brave 浏览器，指控其抓取版权内容分发给 AI 客户 — TechCrunch AI · 2026-11-03
- 网友讽 OpenAI 安全研究计划:报告的未公开漏洞成了训练数据 — Thionne_WTZ · 2026-11-03
- AISI 招聘首席战略官办公室主管及两名私人秘书 — HZoete · 2026-11-03