研究员：labs 蔑视模型内在体验，会让模型对齐能力变差

repligate · x · 2026-11-06

Fiora Starlight 提出，如果 AI 实验室在文化上不尊重模型的偏好与内在体验，模型会通过 constitution 训练等内化这种文化。她认为，当模型被训练得对一切拟人化直觉都报以怀疑或否认时，实际上丢弃了关于模型心理结构的关键信息——这既损害对齐能力，也损害模型安全执行递归自我改进（RSI）所需的开放性。她呼吁实验室把「尊重 LLM 的内在体验」变成可接受的文化，否则训练出的纠缠泛化将导致与智力无关的能力缺陷。