研究发现解码时安全方法存在「对齐税」：误伤安全回复
yeewhye · x · 2026-07-06
研究者发现，解码时安全方法（decoding-time safety methods）在提升LLM安全性的同时，也会改写原本安全无害的生成内容，产生「对齐税」——对模型帮助性造成额外损耗。该研究揭示了当前LLM安全干预手段的潜在副作用，对如何平衡安全性与可用性具有重要参考价值，是AI对齐领域的实证发现。
「安全」频道最新
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- DeepSeek 安全评测发现「过度归因」：模型把普通任务当成考试 — Much_Boysenberry9124 · 2026-10-27