Liquid d1-2B 决策模型吞吐达同级 LLM 19-30 倍,准确率持平
mervenoyann · x · 2026-11-20
zekiworks 对 Liquid AI 的决策模型做了同 GPU 基准测试(mervenoyann 转发并解释原理):
- 在同一 RTX PRO 6000 上,Liquid d1-2B(决策模型)每分钟可回答约 5136 道英文阅读题,是 Liquid LFM3-1.7B 的约 19 倍,是 MiniCPM5-2B 和 Qwen3.5-2B 的约 30 倍,而四者准确率相当(65.6% vs 67.8%/67.3%)。
- 关闭思考模式下,Liquid LFM3-1.7B 准确率最高(71.8%)。
- mervenoyann 解释加速原因:LLM 输出 JSON 结构化结果需要 prefill + decode,而决策模型只需一次前向传播,因此在结构化输出场景快出数量级。
- 测试基于 547 题,速度由请求耗时估算,排除预热。
「Infra」频道最新
- 小型实验室 Cactus Compute 一年发表 12 篇论文,5 篇中 NeurIPS — joemeno · 2026-11-20
- Modular 重建 MAX Module API:类 PyTorch 语法+即时调试 — clattner_llvm · 2026-11-20
- e-means 进驻 tusKANNy 全栈,向量索引聚类训练提速 1.5-5 倍 — CShorten30 · 2026-11-20
- AWS Lambda 函数超时翻倍至 30 分钟,长任务不再需重构 — DavidWells · 2026-11-20
- 微软联手 Intel:Azure 自研芯片采用 EMIB 封装并锁定 Diamond Rapids 供货 — Beth_Kindig · 2026-11-20
- Polymarket 开盘:DOJ 年底前刑事起诉英伟达概率仅 5% — Polymarket · 2026-11-20