HF 工程师详解决策模型新玩法:把分类决策变成答案 token
LysandreJik · x · 2026-10-12
Hugging Face 工程师 Lysandre 系列推文介绍一种不额外加头的决策模型实现方式。
- 常见做法是在基座模型上加分类头/reward 头/value 头,针对决策单独训练再服务。
- 该方案则把每个候选决策转成答案 token(如 A=billing、B=technical、C=sales),跑常规自回归前向传播,但不继续采样生成,在前向传播后即停止。
- 只看 A/B/C 对应位置的 logits 并对其 softmax,即可直接从 LM 本体得到决策概率分布(示例:technical 0.94)。
- 注意:输出未经过校准,logits 不像专门决策模型那样可直接解释。
所属事件:Transformers 新端点让 250 个模型秒变决策模型(6 条相关)→
「研究」频道最新
- METR的AI时间地平线图表已近半年未更新 — mhmazur · 2026-10-12
- Decision Model 入驻 Papers with Code:输出结构化决策的新方法 — NielsRogge · 2026-10-12
- LightOn 2B 小模型做代码搜索 agent,战绩比肩 27B 开源模型 — IgorCarron · 2026-10-12
- John Langford 公开 COLM 演讲幻灯片：如何以 AI 速度做研究 — JohnCLangford · 2026-10-12
- 微软 MiniCorp:用智能体公司模拟器生成企业训练数据 — dair_ai · 2026-10-12
- kalomaze：DCLM 去重数据集仍是通用网页文本最佳选择 — kalomaze · 2026-10-12