统计学者质疑对齐前提：LLM 输出是分布性质而非固定属性

gerardsans · x · 2026-09-18

统计学者 Gerard Sans 参与 LLM 对齐的讨论，主张使用严谨术语：应基于训练数据样本与具体输入来描述输出——给定输入和上下文，输出是 in-distribution（语料中高密度样本）、sparse（低密度）还是 out-of-distribution（几乎没有样本），结果取决于输入与训练数据的支撑范围，不能对 LLM 做全局性断言。他进一步认为，对齐的问题在于其隐含错误假设——似乎存在某个「可被对齐」的固定特质，但分布是随上下文变化的数学对象，因此当前技术下的对齐不可能实现。