新型推理努力控制方案曝光:分级 GRPO 训练引热议
stochasticchasm · x · 2026-09-11
博主 stochasticchasm 分析了一种新颖的 reasoning effort 控制方案,认为其与 OpenAI 的 juice 值思路相似,可实现更细粒度的控制:
- 训练设置有趣之处在于 GRPO 的用法:每个组在单一 effort 水平上采样,而每个任务在多个 effort 水平上采样
- 参考长度 "Lnorm" 与 k3 按问题校准的参考长度类似
- 作者猜测该方案可显著提升吞吐量,并指出 v4 中对 batch invariance 的关注可能与此相关
整体是对前沿实验室推理算力调控机制的技术解读长帖。
所属事件:DeepSeek V4.1 Flash 技术报告流出:死磕 KV cache 压缩(44 条相关)→
「模型」频道最新
- 前 Google 研究员团队发布 Fern 0.1:专供审计数据、调试训练的模型 — bneyshabur · 2026-10-26
- Fern 0.1 智能体基准首秀:SWE-Bench Verified 73.4,与前沿模型仍有差距 — bneyshabur · 2026-10-26
- Fern 团队提出「上下文即智能」:预测精度随上下文增至 1000 万 token 持续提升 — bneyshabur · 2026-10-26
- Mirendil 发布首个自研预训练模型 Fern,上下文最长 1000 万 token — bneyshabur · 2026-10-26
- 网友发现 Claude 疑似上线专用翻译界面 — BLCNYY · 2026-10-26
- 用户实测 GrokBot:订机票、网购全被拦,几乎办不成事 — lucasmeijer · 2026-10-26