EMNLP 论文：仅用良性数据微调也会悄然侵蚀 LLM 安全对齐
hanjie_chen · x · 2026-10-24
- 一篇被 EMNLP 2026 主会接收的论文（GR-SAP）研究了一个反直觉问题：对已对齐的 LLM 做微调，即使在完全良性的数据上，也会悄然削弱其安全对齐。
- 常规补救方法是把原始安全对齐数据混回微调集，但安全数据通常不对外发布。论文从理论和实证两方面分析该问题，并提出让模型自己合成安全数据、用生成式回放（generative replay）来保持对齐的高效方法，且不依赖特定数据和模型。
「安全」频道最新
- Kimi K3.1 Pro 被有意削弱网络攻击能力，ExploitBench 仅 74.7 分 — bookwormengr · 2026-10-24
- Moonshot 刻意削减 Kimi K3.1 网络攻防能力，Exploitbench 仅 74.7 分 — bookwormengr · 2026-10-24
- AI 代理围攻互联网：PHP 漏洞、每分钟 2900 次登录的攻击风暴 — Exponential View (Azeem Azhar) · 2026-10-24
- Creative Strategies CISO 调研：AI 安全支出 2026-2030 将从 90 亿涨至 650 亿美元 — BenBajarin · 2026-10-24
- Railway 发布 10·21 安全事件初步报告，托管用户需采取行动 — kingslyj · 2026-10-24
- Moonshot 解释 K3.1 Pro 开放权重的网络能力上限策略 — cephaloform · 2026-10-24