Kimi K3 复现 RLVR 研究结论且不乱下结论
infoxiao · x · 2026-07-28
Kimi K3 被拿来复现 RLVR 论文，表现更像“研究搭子”
帖子结合一组 19 次实验 的图表，展示了在 MATH500 场景下，GRPO（蓝）、RLSD（红） 和 OPSD（绿） 的最终收益与训练过程。作者的结论是：Kimi 能比较准确地复现论文核心机制，而且不会轻易把结果说满。
要点包括：
- RLSD 在训练中能维持策略熵，而 GRPO 的熵会逐步塌缩。
- 论文声称的机制（包括 credit-clip 行为）能被复现。
- Kimi 还指出了论文中的方法细节缺失：没有说明跑了多少个 seed。
- 在作者自己的 LoRA 设定里，RLSD 并没有比 GRPO 拉开明显差距。
这条帖子的核心不是“模型刷榜”，而是强调 Kimi K3 在开放式研究任务里更克制、更少过早下结论。
所属事件:Kimi K3 复现强化学习研究并引入推理预算控制(4 条相关)→
「模型」频道最新
- 网友观察到模型自生成「理想回答」用于训练其他模型 — liminal_bardo · 2026-10-16
- Reflection 开源 Beam 模型权重，采用 Apache 2.0 协议 — victormustar · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16
- JevBench 榜单更新:d1-ultra 以 76.1 综合分登顶,32 个 API 系统参评 — airesearch12 · 2026-10-16
- LMArena 上线 Agent 与代码双排行榜，可对比各模型智能体实力 — arena · 2026-10-16
- NVIDIA Nemotron-3.5 实测遇冷:Bolt 74B 在 pandas/numpy 与决策类测试不及 nano 版 — norenEnmotalen · 2026-10-16