inclusionAI 开源 Ling-3.0 UBTree 投机解码草稿模型

jacek2023 · reddit · 2026-10-21

inclusionAI 在 Hugging Face 发布 Ling-3.0-flash-UBTree 与 Ling-3.0-tiny-UBTree 两个投机解码(speculative decoding)草稿模型。以 Ling-3-Tiny-UBTree-B16 为例,它结合五层 DFlash 骨干与一个学习式 bigram 选择器,可为 Ling-3.0-tiny 目标模型一次提出多条候选续写,交由目标模型验证,从而加速推理。

模型地址:huggingface.co/inclusionAI/Ling-3.0-flash-UBTree 与 Ling-3.0-tiny-UBTree。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →