Cloudflare 开源决策模型 Clef,延迟仅 Jev 的一半

Cloudflare Blog · rss · 2026-10-01

Cloudflare 发布开源决策模型 Clef 与 Clef-flash,托管于 Workers AI,并在 Hugging Face 以 Apache 2.0 协议开源,同时推出配套的 RL 微调平台。

要点:

决策模型定义:返回带概率的结构化输出,供 agent 在工作流中做程序化决策,区别于开放式生成文本的 LLM。
技术路线:以 Qwen 为基座做后训练,推理时只做 prefill,再并行对合法 schema 选项打分,决策步骤非自回归,无需逐 token 生成。
性能:在 Jev Decision Index 多项基准上领先,多数基准超过 Jev;延迟中位数 209ms(Clef)/38.8ms(Clef-flash),对比 Jev 的 524ms;威胁情报实测中分类域名仅需 2.2 秒,gpt-oss-120b 需 4.7 秒且只返回两个分类。
差异化:带视觉编码器(可分类图像)、64k 上下文(Jev 为 32k)、严格类型化输出且与 Jev API 完全兼容,可无缝替换。
训练背景:基于 Matt Mastracci 关于 DiffusionGemma 输出确定性概率的独立研究扩展而来。
提供企业级隐私承诺(不读取/存储/训练用户请求)与 FDE 微调服务,后续上线自助微调平台。

「Infra」频道最新