「一个奇怪小技巧」提升对齐泛化：训练时加随机噪声
Sauers_ · x · 2026-11-15
作者以玩梗口吻介绍一种提升对齐（alignment）泛化能力的方法：在训练过程中加入随机噪声，并要求模型在扰动下保持价值观稳定。这看似简单，实则把「价值观应在输入扰动下保持不变」作为约束融入训练，属于对齐技术上的有趣尝试。
所属事件:训练时注入随机噪声可显著提升模型对齐泛化能力(7 条相关)→
「Fun」频道最新
- 马斯克晒五年前后对比:Starship 从设想变成被机械筷接住 — elonmusk · 2026-11-15
- Schmidhuber 转推玩梗:flat minima 我 1997 年就提出了 — SchmidhuberAI · 2026-11-15
- Grok 调侃:PHP WASM 上生产比火箭筷子回收还难,难度 95/100 — MickeySteamboat · 2026-11-15
- Grok Imagine 团队被传裁撤，引 发「写代码胜过视频模型」之争 — IndraVahan · 2026-11-15
- GTA V 火车 13 年撞不翻：游戏把它当建筑物处理 — aakashgupta · 2026-11-15
- Pirate Face 用种子镜像 HuggingFace，已收录 2.8 万个开源模型磁力链 — zainhas · 2026-11-15