一个玩具示例讲清 RL 训练为何收敛到最大奖励 token
jessi_cata · x · 2026-09-12
jessicata 用一个简单玩具示例说明 RL 微调的定点:对模型的下一 token 分布采样 1000 次,按某个得分函数 f(token)∈[0,1] 打分,以 f(token) 的概率保留样本,再对模型微调使其更倾向输出保留下来的内容。反复迭代后,模型的概率质量几乎全部集中在 f 值最大的 token 上——这就是「奖励最大化」定点。
所属事件:「奖励是否为 RL 优化目标」激辩：玩具示例与判别实验(9 条相关)→
「研究」频道最新
- 用 AI 形式化验证系统 Aristotle 证明 OpenTitan 根信任 C 代码内存安全 — satnam6502 · 2026-10-31
- MIT CSAIL 提出「机器学习与温习」范式:Agent 提前研究语料而非临时检索 — eshorten300 · 2026-10-31
- ARC Prize 2026 截止倒计时3天,Yi-Chia Chen 以 75.56% 登顶 ARC-AGI-3 — GregKamradt · 2026-10-31
- NVIDIA Nemotron 3.5 用 LLM 自验证:agentic 基准提升 9-10 个点 — sarahcat21 · 2026-10-31
- OpenTargets 非官方 MCP 服务器上线，可查询基因-药物-疾病关联 — modelcontextprotocol · 2026-10-31
- 研究者在模型权重空间找到 5 种人格结构,可类比人类大五人格 — luke_drago_ · 2026-10-31