新论文用价值表征预测对齐泛化，构建首个基于泛化动态的 LLM 价值分类学

VeredShwartz · x · 2026-10-14

LLM 开发者通常训练模型遵循亲社会价值观，但后训练可能以意想不到的方式影响模型行为。Vered Shwartz 等人的新论文《Predicting Alignment Generalization with Value Representations》研究价值对齐的下游效应能否被提前预测：论文展示了如何最优地表示价值观、预测跨价值的泛化，并构建了首个基于泛化动态、扎根于实证的 LLM 价值分类学，试图让价值对齐不再靠猜测。