研究者:RL 中用 ECHO 类 SFT 损失可免受「仅诱出能力」质疑
stochasticchasm · x · 2026-11-23
stochasticchasm 在与 YouJiacheng 的讨论中提出:类似 ECHO 损失这类在 RL 过程中使用的监督式后训练(SFT)方法,不会受到针对纯 RL 的「能力诱出(elicitation-only)」批评——即 RL 只是诱出基座已有能力而非教新东西。
他还提到更广的问题:对更老的基座模型做后训练等做法,以及对困惑度(log ppl)更高的模型是否仍擅长 cyber 等任务,目前并无定论。属于技术圈对小众训练方法论的碎片讨论。
「研究」频道最新
- 基础模型 log 困惑度被指极强预测 Epoch 与 OpenAI 能力指标 — stochasticchasm · 2026-11-23
- theshawwn 提议:人写高层证明,AI 补全引理细节 — theshawwn · 2026-11-23
- Claude 补充证明压缩思路:Lean blueprints、Lamport 结构化证明与 Gödel 加速定理 — theshawwn · 2026-11-23
- 两人实验室 GSI 宣布八大领域 250+ 突破:不堆算力,靠专用求解器 — udmrzn · 2026-11-23
- Geoffrey Irving:统计物理可为对齐研究提供新思路 — AndrewCritchPhD · 2026-11-23
- Agent 评测金字塔拆成两根轴:评的是谁,而非跑多少系统 — bharadwajp · 2026-11-23