Hugging Face Transformers 新增 decision pipeline：模型不生成文本、直接输出选项概率
kalyan_kpl · x · 2026-11-11
Hugging Face 官方博客宣布 Transformers Pipeline 现已支持「决策模型」（Decision Models）。核心思路：并非所有任务都需要生成文本，如客服工单路由只需在预定义选项上做判断。
- 传统做法是让 LLM 生成 JSON 回答「该工单归哪个团队、紧急度、是否要求退款」；decision pipeline 让模型直接对给定选项输出概率分布，不生成任何文本。
- 用法：pipeline("decision", model=...)，传入 state 文本与 questions 结构，支持 choice（带 criteria 选项）、noul（是/否）、score（评分，如紧急度分级）等题型，返回如 {'refund': {'noul': 0.99}, 'tone': {'choice': 'angry'}, 'urgency': {'score': 1.8}}。
- 示例模型如 autotrust/GEV-26B-Decide，适用于分类、路由、意图判断等判别型任务。
所属事件:Transformers 新增 Decision Models 原语与管线支持(8 条相关)→
「编程与Agent」频道最新
- 两日深读 Agent 记忆架构，mem0 长文成最佳入门资源 — sharpeye_wnl · 2026-11-11
- Meta 开源设计系统 Astryx 破 2 万星，登 GitHub 热榜第二 — Vjeux · 2026-11-11
- Fable 5.2 一晚跑通 4 项专业设计：689 零件、4871 套方案 — FinanceYF5 · 2026-11-11
- Fable 5.2 一晚跑通 4 项专业设计：689 零件、4871 套方案 — FinanceYF5 · 2026-11-11
- lattedit:浏览器里免登录的本地优先 LaTeX 编辑器,还带 Agent API — cneuralnetwork · 2026-11-11
- 企业多场景别只用一个 LLM：加一层模型路由更灵活 — kashifmanzoor · 2026-11-11