Multi-Branch Transformer:分支并行扩展 LLM,解码提速 51.4%
_akhaliq · x · 2026-11-19
一篇新论文提出 Multi-Branch Transformer:不再单纯把模型做得更宽或更深,而是通过分支方式让完整 Transformer 块并行运行来扩展 LLM。论文报告在相同算力下取得更低的验证损失,解码速度最高提升 51.4%。这为「加宽/加深」之外提供了第三条 scaling 路径,值得跟踪后续复现结果。
所属事件:UIUC 等四校提出 Multi-Branch Transformer 并行分支扩展法(3 条相关)→
「研究」频道最新
- 仿真器误设导致过度自信:SPEED+ 基准上的sim2real方向性稳健性研究 — Nikolay Dolgov · 2026-11-19
- HiT 免编码器端到端训练:算力省 2.4 倍,FID 1.48 刷新 ImageNet — CatAstro_Piyush · 2026-11-19
- FET PET 检测脑胶质瘤灵敏度 91.2%,远超增强 MRI 的 52.6% — Dr_Alex_Crimi · 2026-11-19
- GTEx RNA-seq 被曝批内跨组织污染,睾丸组织波及其他样本 — iskander · 2026-11-19
- Doppel 世界模型:先渲染机器人身体,一个模型通吃 8 种具身 — mangahomanga · 2026-11-19
- DeepMind 发布 Genie 4 世界模型:实时物理+推理+音频,Ultra 可试用 — demishassabis · 2026-11-19