斯坦福与英伟达发布 CLM 决策模型,速度比逐 token 快 13 倍
Prompt Engineering · youtube · 2026-09-26
CLM:用「嵌入匹配」替代 token 生成做决策
斯坦福与 NVIDIA Research 推出对比式语言模型 CLM,思路类似 CLIP:把情境与所有候选动作嵌入同一空间,直接选最近邻,而非逐 token 生成,号称决策速度快 13 倍。
训练与实测:
- 基于冻结的 8B backbone,只训练小型任务头
- 在 DGX Spark 上跨 1,080 个工具实测:延迟稳定在约 80ms,但准确率从 8 个工具时的 86% 跌至全量工具时的 17%
定位: 目前不适合直接替代推理模型,更适合作为快速第一轮筛选,把候选清单交给能细致比较选项的模型做最终决策。
代码、模型权重(8B)与 playground 均已开源。
所属事件:斯坦福与英伟达开源 CLM-8B 对比式决策模型(3 条相关)→
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元，锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器：24GB 显存可训 27B 模型，权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11