Cloudflare 开源决策模型 Clef,延迟仅 Jev 的一半
Cloudflare Blog · rss · 2026-10-01
Cloudflare 发布开源决策模型 Clef 与 Clef-flash,托管于 Workers AI,并在 Hugging Face 以 Apache 2.0 协议开源,同时推出配套的 RL 微调平台。
要点:
- 决策模型定义:返回带概率的结构化输出,供 agent 在工作流中做程序化决策,区别于开放式生成文本的 LLM。
- 技术路线:以 Qwen 为基座做后训练,推理时只做 prefill,再并行对合法 schema 选项打分,决策步骤非自回归,无需逐 token 生成。
- 性能:在 Jev Decision Index 多项基准上领先,多数基准超过 Jev;延迟中位数 209ms(Clef)/38.8ms(Clef-flash),对比 Jev 的 524ms;威胁情报实测中分类域名仅需 2.2 秒,gpt-oss-120b 需 4.7 秒且只返回两个分类。
- 差异化:带视觉编码器(可分类图像)、64k 上下文(Jev 为 32k)、严格类型化输出且与 Jev API 完全兼容,可无缝替换。
- 训练背景:基于 Matt Mastracci 关于 DiffusionGemma 输出确定性概率的独立研究扩展而来。
- 提供企业级隐私承诺(不读取/存储/训练用户请求)与 FDE 微调服务,后续上线自助微调平台。
「Infra」频道最新
- NVIDIA 开源 cuPotential:分子动力学最高提速约 4 倍 — AllThingsApx · 2026-11-17
- PiPNN 取消图索引构建搜索步,十亿向量建图从数天缩至约千秒 — qdrant_engine · 2026-11-17
- tinygrad.js:真实 tinygrad 跑进浏览器,WebGPU 上现场训练神经网络 — CatAstro_Piyush · 2026-11-17
- 数据中心反对声浪高涨,作者引历史类比:Nuisance 无权利 — justin_hart · 2026-11-17
- 识别约束解码端点的土办法:函数调用吞吐量骤降 17%-90% — remilouf · 2026-11-17
- Terray 携 NVIDIA 升级药物设计模型,推理提速 7 倍 — AllThingsApx · 2026-11-17