逻辑训练信号能泛化推理,但「文风」似乎不吃智商

teortaxesTex · x · 2026-09-22

teortaxesTex 在讨论中提出一个观察:结构化的训练信号(无论预训练还是 RL)能带来推理能力的泛化——在代码语料上预训练的模型几乎所有任务都变强;R1 在数学和代码上做 RL 后,写作水平也远超 V3。

但他的结论是「风格(style)似乎与 g 因子关系不大」:即便最新模型在有标准答案的任务上进步明显,在没有 ground truth 的深度概念问题和文学创作上仍表现不佳,说明泛化只发生在可验证的推理目标附近。回复 @phl43 认为,模型从更简单目标的 RL 中获得了部分迁移,但在文学类任务上差距依旧明显。