新研究用价值表征预测对齐训练的跨任务泛化效应

Anthropic 等机构研究者发布论文《Predicting Alignment Generalization with Value Representations》。LLM 后训练通常让模型遵循亲社会价值观，但可能以意想不到的方式影响其行为。该研究发现，模型的激活表征可以预测价值对齐训练的连带效应与跨任务泛化，并据此构建了首个基于泛化动态的 LLM 价值分类学，为理解和监控对齐训练提供了新工具。

2026-10-14 ~ 2026-10-15 · 3 条相关

• 新论文用价值表征预测对齐泛化，构建首个基于泛化动态的 LLM 价值分类学 — VeredShwartz · 2026-10-14
• 新研究：模型激活表征可预测价值观对齐的跨任务泛化 — dhadfieldmenell · 2026-10-14
• Anthropic 研究：模型激活可预测价值对齐训练的连带效应 — dhadfieldmenell · 2026-10-15