pplx-decider 新思路:同一状态的多问题共享序列一次前向

antoine_chaffin · x · 2026-10-17

作者团队没有走逐问缓存的路,而是把关于同一状态的多个问题打包进一次前向传播,做完全双向编码:所有问题共享一个序列,每个问题带一个 readout 标记,状态在多问题间共享,相当于缓存。

单问题时等价于 v1.1。得益于 Qwen 架构,超长输入(多问题拼接)不会撑爆显存,相比不缓存是很大的提速。作者还发现把相关问题交叉编码在一起会带来额外收益——这正是配图表格 (+11.3 等) 所量化的一点。后续帖子也讨论了此方案的缺点:结果依赖打包方式,问题冲突时可能有害。