多问题打包单次前向传播：省算力但稳定性存隐患
antoine_chaffin · x · 2026-10-17
作者分享了把针对同一状态的多个问题打包进一次前向传播（全双向）的方案：所有问题共享同一条序列，每个问题各有一个读取标记。单问题场景下等价于 v1.1，多问题时状态共享、类似缓存；借助 Qwen 的架构可以处理很长的多问题输入。
作者同时指出该方案的代价：决策结果依赖于被打包在一起的问题组合，如果不同运行之间打包的问题不一致，结果会不够稳定；当被打包的问题相互冲突时，还可能带来负面影响。
所属事件:pplx-decider 新思路：多问题打包一次前向共享状态(2 条相关)→
「研究」频道最新
- 单卡 RTX 5090 跑出 2788 tokens/s：开源扩散语言模型加速方案 ORL 发布 — arty_photography · 2026-10-17
- LeCun 团队推出 AdaJEPA：让世界模型在规划中应对环境变化 — mengyer · 2026-10-17
- 哈佛数学家拉 Claude 攻关杨-米尔斯构造，过程文档已开源 — lvwerra · 2026-10-17
- 权重魔改易伤生成类评测，MMLU 却基本无恙 — aryaman2020 · 2026-10-17
- 开发者开源 sika-agent:用强化学习训练 AI 拦截加纳 MoMo 诈骗电话 — emeka_boris · 2026-10-17
- 北大三星 RealtimeBench:慢模型离线指导让快模型游戏分从13.51升至24.19 — rohanpaul_ai · 2026-10-17