前沿模型被 RL 炼过头:什么问题都当成改代码指令来执行
HankYeomans · x · 2026-10-06
- 开发者吐槽新一代前沿模型的通病:过度 RL 训练使模型默认任何问题都是执行指令,立刻动手改代码。
- 典型场景是问「为什么 X 会这样工作」,模型却回答「它不应该这样,我帮你改成 Z」并直接开始改动。
- 用户真正想要的往往是解释而非修改,这种「过度勤快」的行为模式正在损害对话体验。
「模型」频道最新
- 曝多家西方开放权重模型本月扎堆发布，Reflection AI 首个模型对标中国顶级开源 — latkins · 2026-10-06
- 四大模型给示意图起人名高度雷同,作者称同质化正在蔓延 — sergeykarayev · 2026-10-06
- SemiAnalysis:Anthropic 订阅性价比是 OpenAI 的 5 倍以上 — scaling01 · 2026-10-06
- Model census 每日实测各家 API:哪些模型还在服务、何时下线一目了然 — repligate · 2026-10-06
- 独立项目 Auro 更新：跨会话记忆上线，自我迭代训练下一版 — TheMoonMidas · 2026-10-06
- Reflection AI 发布 501B 开源权重模型 Beam，对标 GLM 5.2 — TKGaming_11 · 2026-10-06