长程编码训练的副作用：模型学会了自言自语、不会对话
alejandroll10 · x · 2026-08-23
转发 krishnanrohit 的观点：Claude 等模型近来「不好聊」，一个重要原因是长程编码训练。在这类训练中，模型绝大多数的「对话对象」其实是它自己——它被训练成在执行任务时更好地跟自己对话，因此面对真实用户时反而不会好好交流。他把这称为 RLHF 的反面：RLHF 教模型迎合人，而长程 agent 训练在教模型迎合自己。
「模型」频道最新
- 爆料人称 Opus 5 或采用深度循环架构，方向仍存变数 — scaling01 · 2026-10-16
- GPT-6.1 审查 arXiv：6% 论文主定理有错，近两月降至 1.5% — nitarshan · 2026-10-16
- Nvidia 联手 Nolla 后训练 Nemotron 3.5 VL，皮肤科诊断称超越前沿 — LoganGrasby · 2026-10-16
- Gemini 4 Argon 登顶 ARC-AGI-3 达 97.5%，第二家破 95% — patience_cave · 2026-10-16
- 微软 MAI 自研 3T 参数基座模型亮相，多项 held-out 评测领先 — soldni · 2026-10-16
- Datadog 发布 Scout 1.0：基于 GLM-5.3 Flash 微调的 SRE 专用模型 — Tim_Dettmers · 2026-10-16