Hugging Face Transformers 引入 Decision Models 新原语
Hugging Face 于 11 月 10 日在 Transformers 库合并 PR #50054,新增「decision models」原语,并引入 AutoModelForDecision 接口。维护者 Lysandre Jik 认为,这可能比支持任何单个模型都重要。
已确认
- Transformers 合并了 Jev 与 decision core 的 PR #50054,新增 decision models 原语。
- 新增 AutoModelForDecision,定位为「接口而非实现」:定义统一的输入/输出结构,方便用户集成,同时保留各模型实现自由。
- 与传统 LLM 生成文本(如输出 JSON 回答分类问题)不同,决策模型直接对给定选项评估并返回概率分布,适合客服工单路由、分类等不需要文本生成的任务。
- Hugging Face 发布了系统介绍 Decision Models 的教程。
- 决策模型除 transformers 集成外,也可直接通过 llama.cpp 运行。
- tomaarsen 推荐 Decision Index 基准,覆盖 275 个模型的决策能力,其中部分已获得 transformers 原生支持。
为什么重要
- 这是 Transformers 库层面的架构级扩展,将「直接输出决策分布」确立为一等公民能力,而非依赖 LLM 生成 JSON 的间接方案。
- tomaarsen 表示看好模型输出结构保持一致(consistent output structures)这一方向,认为其对机器学习任务很有价值。
- Decision Index 与 llama.cpp 支持说明该生态已有可用工具链,便于开发者评估与部署。
2026-11-10 ~ 2026-11-10 · 6 条相关
一手来源
- Hugging Face 为 transformers 引入 Decision Models:直接输出决策分布而非文本 — tomaarsen ·
- 275 个模型决策基准 Decision Index 发布,部分已原生支持 transformers — tomaarsen ·
- Transformers 库新增 decision models 原语,统一各家决策模型架构 — multimodalart ·
- 【源头】Transformers 库新增 decision models 原语,统一各家决策模型架构 — multimodalart · 2026-11-10
- Hugging Face 发布 Decision Models 教程:不生成文本直接输出决策分布 — ariG23498 · 2026-11-10
- 【源头】Hugging Face 为 transformers 引入 Decision Models:直接输出决策分布而非文本 — tomaarsen · 2026-11-10
- HF 推进 AutoModelForDecision 接口,决策模型还可用 llama.cpp 运行 — tomaarsen · 2026-11-10
- 【源头】275 个模型决策基准 Decision Index 发布,部分已原生支持 transformers — tomaarsen · 2026-11-10
- Decision Index 覆盖 275 个模型,transformers 已原生支持部分能力 — tomaarsen · 2026-11-10