决策模型跑分:比 LLM 生成 JSON 快 2.7-3.6 倍
mervenoyann · x · 2026-11-18
mervenoyann 对 Liquid AI 的决策模型 d1 与 LFM3 生成 JSON 结构化输出的速度做了对比测试(排除预热),结论是决策模型有倍数级的速度优势,原因在于架构差异:
- LLM 输出结构化 JSON 需要经历 prefill + decode 两个阶段
- 决策模型只需一次前向传播(forward pass)
实测结果:
- 短输入、1 个字段:LFM3 298 ms vs d1 83 ms,d1 快 3.6 倍
- 短输入、3 个字段:LFM3 546 ms vs d1 201 ms,d1 快 2.7 倍
对需要高频做结构化分类/路由决策的场景,专用决策模型可能是比通用 LLM 更快的选项。
「模型」频道最新
- browser-use 实测:GPT-6.2 Sol 登顶浏览器操作,比 Opus 5.5 便宜一半还高 7 分 — charliermarsh · 2026-11-18
- Bug Hunt 榜单:GPT-6.2 Sol Max 得 54.7 分仅花 7 美元,追平 Fable 5.2 — PawelHuryn · 2026-11-18
- 网友盘点 Anthropic 五大价值:竞争、降价与开源护城河 — dh7net · 2026-11-18
- 开发者实测 GPT-6.2 Astra:有所改进但方向仍糟糕 — kimmonismus · 2026-11-18
- OpenAI 商业版收费一个月:付费的 Premium 席位根本无法使用 — physmathastro · 2026-11-18
- 网友猜测:Astra 6.2 差评或因 OpenAI 内部超速跑 swarm 未做真实体验 — daniel_mac8 · 2026-11-18