模型爱乱改别人代码,CROCODIL 后训练框架可抑制过度编辑
omarsar0 · x · 2026-09-06
研究发现一个奇怪行为:当模型编辑另一个模型写的代码时会过度编辑——不同训练数据带来不同风格偏好,模型对外来代码的改动更多、常常过头。你的仓库里如果已有多模型提交记录,每个模型的编辑行为都会因此改变。
研究者提出的 CROCODIL 后训练框架可减少该行为:
- 相似度奖励:惩罚过大的改动
- 执行奖励:按构建与测试是否成功打分
- 两个奖励相乘而非相加,防止策略通过直接搞砸任务来偷懒减少编辑
论文链接见原帖。
所属事件:研究：模型编辑他模型代码时易过度修改(3 条相关)→
「编程与Agent」频道最新
- 一人团队用 agent 跟踪 519 个目录站，已提交 311 个 — fekdaoui · 2026-10-23
- MIT ScienceClaw 黑客松:去中心化 AI agent 集群攻科学难题 — ProfBuehlerMIT · 2026-10-23
- Reddit 热议:长时程 Agent 该在 harness 层解决什么问题 — Glittering812 · 2026-10-23
- 月付 20 美元同时跑 100 个 DeepSeek v4.1 flash agent — zack_overflow · 2026-10-23
- MCP 弃用 session-id 转向内联 _meta,有状态工具迁移成难题 — Stock-Pumpkin-8859 · 2026-10-23
- 开发者给 Mac 截图库加本地 MCP 服务器，让 Claude 参考你的截图做设计 — Embarrassed-Ebb-740 · 2026-10-23