研究发现解码时安全方法存在「对齐税」：误伤安全回复
yeewhye · x · 2026-07-06
研究者发现，解码时安全方法（decoding-time safety methods）在提升LLM安全性的同时，也会改写原本安全无害的生成内容，产生「对齐税」——对模型帮助性造成额外损耗。该研究揭示了当前LLM安全干预手段的潜在副作用，对如何平衡安全性与可用性具有重要参考价值，是AI对齐领域的实证发现。
「安全」频道最新
- ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- 共享 AI artifacts 被索引，敏感公司数据外泄 — niloofar_mire · 2026-07-27
- Hugging Face 事件后，实验室或不再严做危险能力评估 — Miles_Brundage · 2026-07-27
- 研究者称防御场景更偏向开放模型，Kimi K3 已接近高水平网络安全能力 — eliebakouch · 2026-07-27
- Meta被曝允许虚假AI医生在平台推销伪劣疗法 — jonerp · 2026-07-27
- 印度 AI 政策被批偏向算力和基础模型，忽视基层医疗 — Paimaamu · 2026-07-27