专题 · FULL STORY
Perplexity 开源决策模型 Decider v1.2 发布与实测
Perplexity 团队成员发布开源权重多模态决策模型 pplx-decider-v1.2 双尺寸版本,随后第三方在 16GB M4 Mac mini 上实测更小的 flash 版本,显示其准确率持平且速度提升近一倍,验证了本地部署的实用性。
2026-10-17 ~ 2026-10-18 · 2 集 · 19 条
第 1 集 · Perplexity 开源决策模型 Decider v1.2 双尺寸(2026-10-17,17 条)
Perplexity 团队成员 antoinechaffin 发布新一代开源权重多模态决策模型 pplx-decider-v1.2(27B)与 pplx-decider-flash-v1.2(4B),文本与视觉任务成绩均改善,推理最快提速 5 倍。模型以 Apache 许可上架 Hugging Face,可通过 Perplexity API、OpenRouter 与 Vercel AI Gateway 调用,flash 模型价格进一步下调。发布因透明披露成绩、弱项与训练数据细节,以及蒸馏小模型的强势表现而值得关注。
已确认
- 发布两个尺寸:pplx-decider-v1.2(27B)与 pplx-decider-flash-v1.2(4B),均为开源权重、多模态决策模型,大幅增加训练算力与数据规模。与传统 LLM 生成文本不同,Decider 读取文本、JSON 或图片输入,单次请求返回带概率的类型化输出。
- 27B 公开分 67.7、同技能 64.0、Full 65.5,以 144ms 中位延迟排 Decision Index 第 3,落后最新登顶的 StarLux-4B;部分新域分数反低于上代。
- 4B 版与 27B 共享全部设计决策(包括 attention schema 和训练配方),唯一区别是从 27B 大模型的信号中蒸馏学习,在 4B 尺寸上表现极强,登 4B 档榜首。
- 员工 bowangbo 补充:pplx-decider-v1.2 从未接受任何 reranking 监督训练,却在公司私有 MTEB 风格基准(72 任务)上零训练登顶,并附内部评测 prompt 说明。
- Perplexity CEO Arav Srinivas 宣布此次开源,称 4B 版每百万 token 仅 1 美分;OpenRouter 上线信息显示两版本每百万 token 低至 2 美分。
- 渠道方面:模型采用 Apache 许可在 Hugging Face 公开;Perplexity API 同步调用,flash 模型价格进一步下调;两版本上线 OpenRouter;据 CEO,Decider V1.2 系列已接入 Vercel AI Gateway,Vercel 开发者可直接调用。作者回应了公开/私有基准差距问题,说明私有集与公开集的差异。
- 关于回归问题:作者坦承数百项评测中仍发现少量不严重的回归,邀请用户报告坏结果,并用 model souping 缓解;溯源显示回归并非来自 Decision Index 数据,另查明两个成因。
- 关于训练数据:作者发现 DI 榜竞争对手在用基准训练集刷分,此次选择跟进纳入 DI 训练 split 以公平对比;细则为仅用官方训练 split、绝不碰测试数据、对所有训练集针对每个测试集严格去重,这些数据只出现在一个特定训练阶段,占该阶段 16.6%。
- 新推理思路:团队未走逐问缓存路线,而是把同一状态的多个问题打包进一次前向传播做完全双向编码——所有问题共享一条序列、各带一个 readout 标记,状态在多问题间共享相当于缓存;单问题场景等价于 v1.1,借助 Qwen 架构可处理很长的多问题输入。作者同时指出该方案省算力但稳定性存在隐患。
为什么重要
- 开源权重加 Apache 许可降低了决策模型的使用门槛,蒸馏路线证明了小尺寸模型的潜力;多问题打包单次前向提供了缓存之外的新思路。
- 作者主动公布实际排名与弱项(新域分数回落、位列第 3 而非榜首),坦承回归并披露数据纳入比例,还点出排行榜上普遍存在的基准训练集刷分现象,信息披露相对透明,也为行业基准可信度问题提供了案例。
- 零 reranking 监督训练即在内部 rerank 基准登顶,说明决策模型在搜索/排序场景的通用潜力超出原始训练目标。
- Perplexity 开源新一代 decider 模型:27B/4B 双尺寸,推理最快提速 5 倍 — antoine_chaffin · 2026-10-17
- pplx-decider 新思路:同一状态的多问题共享序列一次前向 — antoine_chaffin · 2026-10-17
- 多问题打包单次前向传播:省算力但稳定性存隐患 — antoine_chaffin · 2026-10-17
- Perplexity 揭 DI 榜竞争对手在用基准训练集刷分,这次选择跟进以公平对比 — antoine_chaffin · 2026-10-17
- Perplexity 公布 decider 数据纳入细则:仅官方 split、严格去重、占比 16.6% — antoine_chaffin · 2026-10-17
- Perplexity 坦承 decider v1.2 存在回归,用 model souping 缓解并溯源两成因 — antoine_chaffin · 2026-10-17
- Perplexity decider 4B 由 27B 大模型蒸馏信号训练,登 4B 档榜首 — antoine_chaffin · 2026-10-17
- Perplexity decider v1.2 27B 排 Decision Index 第 3,新域分数反低于上代 — antoine_chaffin · 2026-10-17
- pplx-decider v1.2 模型开源:Apache 许可上架 HF,API 同步降价 — antoine_chaffin · 2026-10-17
- Perplexity 开源 pplx-decider-v1.2,推理最快提速 5 倍 — inductionheads · 2026-10-17
- Perplexity 开源两代决策模型:4B 版每百万 token 仅 1 美分 — antoine_chaffin · 2026-10-17
- Perplexity 决策模型 Decider v1.2 上线 OpenRouter,含 27B 与 4B — bo_wangbo · 2026-10-17
- Perplexity 开源决策模型 Decider v1.2 上线:27B/4B 双版本,百万 token 低至 2 美分 — antoine_chaffin · 2026-10-17
- Perplexity 开源多模态决策模型,Flash 版推理快至 5 倍 — denisyarats · 2026-10-17
- Perplexity 决策模型 Decider V1.2 上架 Vercel AI Gateway — AravSrinivas · 2026-10-17
- Perplexity 曝光内部 reranker:零训练登顶自建 72 任务基准 — bo_wangbo · 2026-10-17
- Perplexity 自研 pplx-decider 零重排监督训练,附内部评测 prompt — bo_wangbo · 2026-10-17
第 2 集 · Perplexity 本地决策模型 Flash 实测:准确率持平、速度快近一倍(2026-10-17,2 条)
Perplexity 新发布的本地小模型 pplx-decider-flash-v1.2 在第三方实测中表现出色:在 16GB M4 Mac mini 上运行真实邮件决策任务时,其准确率与此前 14 模型横评冠军 Wald 持平,但速度接近翻倍。这表明该模型在资源受限的本地环境下兼顾了准确率与效率。
- Perplexity 本地决策模型 Flash 实测:准确率持平,速度快近一倍 — WolframRvnwlf · 2026-10-17
- Perplexity Decider Flash 实测:与 Wald 同准确率、速度快近一倍 — antoine_chaffin · 2026-10-18