Hugging Face 推出 Decision Models:不生成文本直接输出决策概率分布
ariG23498 · x · 2026-11-14
Hugging Face 发布长文介绍「Decision Models(决策模型)」新范式:传统做法是让 LLM 生成一段文本或 JSON 来回答分类/路由类问题,而决策模型让模型直接对候选选项评估,输出概率分布,不生成任何文本。
- 文章以客服工单分流为例:判断该由哪个团队处理、紧急程度、是否涉及退款,可通过 pipeline("decision", ...) 传入 state + questions(含选项与判定标准)直接拿到结构化决策结果。
- 适合分类、路由、审批等「选答案而非写作文」的场景,省去解析生成文本的不确定性。
- 文中示例模型为 autotrust/GEV-26B-Decide,并给出 transformers 的调用代码。
这是作者本周周报的一部分,同周还涉及 token pooling aware training、llama.cpp v1、TRELLIS 微调等内容。
「编程与Agent」频道最新
- 开源免费 AI 工程课「AI Engineering from Scratch」:从原始数学手写每个算法 — ghumare64 · 2026-11-14
- 23 分钟图解 AMD MI300X:从 8 颗计算芯片到 Gluon GEMM — saurabhtwq · 2026-11-14
- 求职新招:给目标公司提交真实 PR 当敲门砖,还能复用投多家 — minhnguyen · 2026-11-14
- 截图曝光:多智能体多用户实时视频聊天,带长期记忆与持久身份 — nptacek · 2026-11-14
- DeepSeek 把 App 全家桶能力开放成 API，可一键复刻官方应用 — churchkey · 2026-11-14
- Garry Tan 实测：Fable 5.2 通过率追平 Opus 5.5，成本却是 2.8 倍 — garrytan · 2026-11-14