Perplexity 发布 pplx-decider v1.1:双向注意力带来 +2.8 提升

antoine_chaffin · x · 2026-10-17

Perplexity 团队发布下一代 decider 模型迭代,包含 27B 和 4B 两个尺寸,并引入新的注意力 schema 以改善批处理,成绩较上一版明显提升。

v1.1 相比 v1 的提升来自两方面:更好的训练数据(+2.4 DI)和从因果注意力切换到完全双向注意力(+2.8 DI)。但双向注意力带来服务端问题:状态会关注问题,导致状态缓存无法复用,每个新问题都要重新编码全部内容,成本从 state + N×question 退化为 N×(state+question)。这条线程后续详细讨论了如何解决这一缓存难题。