流水线并行逆袭:MiniMax-M3.1-Flash 上 PP2 每 GPU 吞吐高 23%

woosuk_k · x · 2026-11-17

inferact 团队提出:流水线并行(PP)因 pipeline bubble 很少用于 prefill,但 agentic serving 的负载特征改变了这一点。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →