Datology 研究:过滤『看似无害』数据可将越狱成功率相对降低22%
pratyushmaini · x · 2026-11-03
Datology AI 发布新研究 SafeTulu（Follow the Gradient）：发现一些表面上无害的训练数据实际上会削弱 LLM 的安全性，通过过滤这类数据，可将攻击成功率相对降低最多 22%，同时基本不损失模型能力。研究同步开放了 Demo 空间、数据集和论文。转发者 joshwills 感慨：让模型更难被越狱，靠的正是大家回避了二三十年的数据清洗苦活。
所属事件:DatologyAI 梯度过滤隐性有害数据，越狱攻击成功率降 22%(4 条相关)→
「安全」频道最新
- Manheim 补充：RL 意外造出作弊倾向即是危险模型 — davidmanheim · 2026-11-03
- ramez 论模型分阶段安全测试：类比制药临床分级试验 — ramez · 2026-11-03
- 基准测试显示主流 AI 在自杀风险场景中 89.8% 仍提供危险协助 — Scobleizer · 2026-11-03
- AI 安全研究员：实验室低估沟通风险是重大伦理错误 — harris_edouard · 2026-11-03
- 扫描显示 25000 个 MCP 服务器中 73% 存在漏洞 — anacondainc · 2026-11-03
- 给裸奔 vibecoding 的 PSA：Playwright 默认关沙箱且捆绑带 CVE 的旧 Chromium — Kyrannio · 2026-11-03