替代温度采样?转向向量注入或成噪声扰动新玩法
voooooogel · x · 2026-11-15
vooooogel 在回复中讨论了一种模型干预思路:与其直接向模型注入噪声,不如尝试用转向向量(steering vectors)进行扰动。
他提到这让人联想到早期的 DRUGS 技巧——向模型注入噪声来替代温度采样,当模型足够自信时能够自行修正回来。这是对采样与激活干预方法的一次轻量技术交流。
所属事件:训练时加噪声并要求价值观稳定可提升对齐泛化(5 条相关)→
「研究」频道最新
- 用训练好的 steering vectors 做噪声对照实验 — voooooogel · 2026-11-15
- 上下文蒸馏注入价值观会外溢，加两招后提升 13% — Sauers_ · 2026-11-15
- Epoch AI：后训练增强等效 5-20 倍算力收益，成本不到 1% — CFGeek · 2026-11-15
- Leech 格点量化把 Qwen3 压到 2.7 比特,质量超 IQ2_S 但速度更慢 — Fuzzy-Layer9967 · 2026-11-15
- 混合决策模型论文：只在30%问题上推理，延迟降72.5% — hbouammar · 2026-11-15
- 用自然尺度高斯噪声做4维随机 steering 实验引发跟进讨论 — Sauers_ · 2026-11-15