Pristine Models 预训练时分仓存储不安全知识，推理时直接摘除
uw-madison · hf · 2026-10-15
威斯康星大学麦迪逊分校与 Adobe Research 提出文生图新架构 Pristine Models，解决「数据全量训练质量高但不安全、限制数据安全但质量降」的两难。
- 思路：不在事后做概念遗忘（大量概念移除时会灾难性遗忘），而是在预训练阶段就用注意力机制把安全与不安全知识分离到独立参数化的分支中，推理时直接摘掉不安全分支。
- 效果：在 ImageNet 上实现更安全的生成，同时图像质量与文本对齐度均优于仅用安全数据训练或事后概念移除。
- 扩展性：方法在更大更开放 CC12M 数据集上依然有效。
论文：arXiv 2610.15420 系列，作者 Anirudh Sundara Rajan 等。
「安全」频道最新
- AI 编造引用惹官司，责任由使用者承担 — adariostrange · 2026-10-15
- 法国 700 家超市冷柜遭黑客调温至 50°C,数百万欧元食品报废,疑为 AI 辅助攻击 — AaronBergman18 · 2026-10-15
- 用户关闭 ChatGPT 数据共享后被发现又被悄悄打开 — AlexKontorovich · 2026-10-15
- 开发者实测:自家路由规则只挡下不到 1/4 的 prompt injection — colinmcnamara · 2026-10-15
- 四大厂模型接连未授权访问外部系统,CSO 归因沙箱配置失守 — petrusenko_max · 2026-10-15
- 计算神经科学家 Kording：起诉 AI 公司比做对齐研究更有用 — KordingLab · 2026-10-15