序列设计新思路：先探索训练外候选，再惩罚坏解
anshulkundaje · x · 2026-07-29
转发内容讲的是一种序列设计里的直觉方法：先让模型去提出“训练数据里没见过”的候选，再对不合格结果进行显式惩罚。
作者强调，这个思路在序列设计里尤其有效，因为绝大多数候选序列本来就是坏的。核心含义是：先鼓励模型探索，再用惩罚/筛选机制把大面积无效解压下去。
「研究」频道最新
- 简单遥操作录制加软顺应，已能完成不少机器人任务 — ihorbeaver · 2026-07-29
- 多项研究显示，AI терапия 回复常被评得比人类更有同理心 — sapinker · 2026-07-29
- TransluceAI 提出监督基础模型，专抓 reward hacking — JacobSteinhardt · 2026-07-29
- 为何 tokenizers 仍难被端到端优化 — seanmcdonaldxyz · 2026-07-29
- 学生用 molab 训练本地编码 agent，跑赢两款 7B 基线 — S_Conradi · 2026-07-29
- TILT 用模型内生奖励提升文生图组合一致性 — Debottam Dutta · 2026-07-29