专题 · FULL STORY

Perplexity 开源决策模型 Decider v1.2 发布与实测

Perplexity 团队成员发布开源权重多模态决策模型 pplx-decider-v1.2 双尺寸版本,随后第三方在 16GB M4 Mac mini 上实测更小的 flash 版本,显示其准确率持平且速度提升近一倍,验证了本地部署的实用性。

2026-10-17 ~ 2026-10-18 · 2 集 · 19 条

第 1 集 · Perplexity 开源决策模型 Decider v1.2 双尺寸(2026-10-17,17 条)

Perplexity 团队成员 antoinechaffin 发布新一代开源权重多模态决策模型 pplx-decider-v1.2(27B)与 pplx-decider-flash-v1.2(4B),文本与视觉任务成绩均改善,推理最快提速 5 倍。模型以 Apache 许可上架 Hugging Face,可通过 Perplexity API、OpenRouter 与 Vercel AI Gateway 调用,flash 模型价格进一步下调。发布因透明披露成绩、弱项与训练数据细节,以及蒸馏小模型的强势表现而值得关注。

已确认

  • 发布两个尺寸:pplx-decider-v1.2(27B)与 pplx-decider-flash-v1.2(4B),均为开源权重、多模态决策模型,大幅增加训练算力与数据规模。与传统 LLM 生成文本不同,Decider 读取文本、JSON 或图片输入,单次请求返回带概率的类型化输出。
  • 27B 公开分 67.7、同技能 64.0、Full 65.5,以 144ms 中位延迟排 Decision Index 第 3,落后最新登顶的 StarLux-4B;部分新域分数反低于上代。
  • 4B 版与 27B 共享全部设计决策(包括 attention schema 和训练配方),唯一区别是从 27B 大模型的信号中蒸馏学习,在 4B 尺寸上表现极强,登 4B 档榜首。
  • 员工 bowangbo 补充:pplx-decider-v1.2 从未接受任何 reranking 监督训练,却在公司私有 MTEB 风格基准(72 任务)上零训练登顶,并附内部评测 prompt 说明。
  • Perplexity CEO Arav Srinivas 宣布此次开源,称 4B 版每百万 token 仅 1 美分;OpenRouter 上线信息显示两版本每百万 token 低至 2 美分。
  • 渠道方面:模型采用 Apache 许可在 Hugging Face 公开;Perplexity API 同步调用,flash 模型价格进一步下调;两版本上线 OpenRouter;据 CEO,Decider V1.2 系列已接入 Vercel AI Gateway,Vercel 开发者可直接调用。作者回应了公开/私有基准差距问题,说明私有集与公开集的差异。
  • 关于回归问题:作者坦承数百项评测中仍发现少量不严重的回归,邀请用户报告坏结果,并用 model souping 缓解;溯源显示回归并非来自 Decision Index 数据,另查明两个成因。
  • 关于训练数据:作者发现 DI 榜竞争对手在用基准训练集刷分,此次选择跟进纳入 DI 训练 split 以公平对比;细则为仅用官方训练 split、绝不碰测试数据、对所有训练集针对每个测试集严格去重,这些数据只出现在一个特定训练阶段,占该阶段 16.6%。
  • 新推理思路:团队未走逐问缓存路线,而是把同一状态的多个问题打包进一次前向传播做完全双向编码——所有问题共享一条序列、各带一个 readout 标记,状态在多问题间共享相当于缓存;单问题场景等价于 v1.1,借助 Qwen 架构可处理很长的多问题输入。作者同时指出该方案省算力但稳定性存在隐患。

为什么重要

  • 开源权重加 Apache 许可降低了决策模型的使用门槛,蒸馏路线证明了小尺寸模型的潜力;多问题打包单次前向提供了缓存之外的新思路。
  • 作者主动公布实际排名与弱项(新域分数回落、位列第 3 而非榜首),坦承回归并披露数据纳入比例,还点出排行榜上普遍存在的基准训练集刷分现象,信息披露相对透明,也为行业基准可信度问题提供了案例。
  • 零 reranking 监督训练即在内部 rerank 基准登顶,说明决策模型在搜索/排序场景的通用潜力超出原始训练目标。

第 2 集 · Perplexity 本地决策模型 Flash 实测:准确率持平、速度快近一倍(2026-10-17,2 条)

Perplexity 新发布的本地小模型 pplx-decider-flash-v1.2 在第三方实测中表现出色:在 16GB M4 Mac mini 上运行真实邮件决策任务时,其准确率与此前 14 模型横评冠军 Wald 持平,但速度接近翻倍。这表明该模型在资源受限的本地环境下兼顾了准确率与效率。