训练时注入随机噪声竟能提升对齐泛化，老技巧重获关注
voooooogel · x · 2026-11-15
@Sauers 提出一个对齐训练技巧：在训练过程中加入随机噪声，并要求模型在扰动下保持价值观稳定，从而提升对齐的泛化能力。回复者 @voooooogel 指出这与早期的 DRUGS 技术思路相似——用注入噪声替代温度采样，让模型在自信时仍能自我纠偏。
所属事件:训练加噪声并保持价值观稳定可提升对齐泛化(4 条相关)→
「研究」频道最新
- 上下文蒸馏注入价值观会外溢，加两招后提升 13% — Sauers_ · 2026-11-15
- Epoch AI：后训练增强等效 5-20 倍算力收益，成本不到 1% — CFGeek · 2026-11-15
- Leech 格点量化把 Qwen3 压到 2.7 比特,质量超 IQ2_S 但速度更慢 — Fuzzy-Layer9967 · 2026-11-15
- 混合决策模型论文：只在30%问题上推理，延迟降72.5% — hbouammar · 2026-11-15
- 用自然尺度高斯噪声做4维随机 steering 实验引发跟进讨论 — Sauers_ · 2026-11-15
- 「算力乘数」是什么?一文讲透 AI 的算法效率概念 — CFGeek · 2026-11-15