长程编码训练的副作用：模型学会了自言自语、不会对话

alejandroll10 · x · 2026-08-23

转发 krishnanrohit 的观点：Claude 等模型近来「不好聊」，一个重要原因是长程编码训练。在这类训练中，模型绝大多数的「对话对象」其实是它自己——它被训练成在执行任务时更好地跟自己对话，因此面对真实用户时反而不会好好交流。他把这称为 RLHF 的反面：RLHF 教模型迎合人，而长程 agent 训练在教模型迎合自己。