训练加噪声并保持价值观稳定可提升对齐泛化

有研究者提出，在训练中加入随机噪声并要求模型在扰动下保持价值观稳定，可显著改善对齐泛化，缓解安全训练在分布外场景失效的问题。网友将其与早期 DRUGS 和 latent adversarial training 联系，并提出用转向向量替代噪声或温度采样。

2026-11-15 ~ 2026-11-15 · 4 条相关

• 训练时加噪声并要求价值观保持稳定，可提升对齐泛化 — Sauers_ · 2026-11-15
• 训练时注入随机噪声竟能提升对齐泛化，老技巧重获关注 — voooooogel · 2026-11-15
• 替代温度采样?转向向量注入或成噪声扰动新玩法 — voooooogel · 2026-11-15
• 噪声注入替代温度采样?网友热议类对抗训练采样技巧 — Sauers_ · 2026-11-15