观点：对齐本质是泛化问题而非数据堆叠

研究者 Kyrannio（@akbirthko）提出观点：safety 社区对对齐的理解方向搞反了。对齐本质上是一个泛化问题——让模型从少量对齐数据和环境出发，泛化到未见过的场景，而不是不断堆叠数据。因此应寻找有助于泛化的归纳偏置（如更深的模型结构等），而且机器学习研究默认就在做对齐相关的工作。

2026-09-24 ~ 2026-09-25 · 2 条相关

• 对齐本质是泛化问题,而非数据堆叠,safety 圈搞反了 — industriaalist · 2026-09-24
• 对齐本质是泛化问题：ML 默认就在做对齐研究 — akbirthko · 2026-09-25