RL 训练中的模型自创「填充 token」,研究者直呼好笑
code_star · x · 2026-11-13
codestar 观察到一个有趣的训练现象:模型在强化学习过程中会自己找到一些专属的「填充 token」(filler tokens)来使用,他觉得这一行为非常有趣。短观察帖,折射 RL 训练中模型涌现出的非预期行为模式。
「Fun」频道最新
- Gemini 多智能体 /teamwork 实况:多 brain 任务日志实时并行跑飞 — RyanSpunk · 2026-11-13
- RTX Pro 6000 跑通义模型时暴毙,楼主戏称 GPU「心碎而亡」 — wine_dark · 2026-11-13
- The Ringer 讽刺文疯传:黄仁勋辞职与英伟达 AI 泡沫冲击 — GaryMarcus · 2026-11-13
- AI 生成终结者与乔丹同车「非正史」名场面视频 — alanskimp · 2026-11-13
- 11 月连续三天:英伟达财报、Anthropic IPO、GTA6 发售 — noahsolomon · 2026-11-13
- 网友吐槽 Microsoft Teams 像带企业福利的蟑螂怎么都死不掉 — _jaydeepkarale · 2026-11-13