JSON 分类器拿 1200 万浏览,Niels Rogge 图解 Jev 单次前向生成原理

rickasaurus · x · 2026-09-17

Hugging Face 工程师 NielsRogge 用 Claude 制作了可视化讲解,解释基于 Qwen2.5-RLCD 模型的 Jev(JSON 分类器)工作原理。该方法用单个 Transformer 解码器替代自回归生成:把上下文和 JSON schema 只过一遍并缓存 KV,然后对每个字段复用 KV-cache 再次前向传播,取最后隐层状态过 LM head 得到 logits,只看该字段相关 token 的分数做 softmax 归一化,取概率最高的 token。该推文获 1200 万次浏览,有人调侃"一个 JSON 分类器拿 1200 万浏览,我们确实在泡沫里"。