SGLang 新 RFC：让新增模型不再需要重写并行代码
BanghuaZ · x · 2026-10-30
SGLang 社区提出 RFC「Model Independent Parallelism」，目标是把模型代码与并行策略解耦。
- 核心主张：模型代码只定义数学结构、逻辑维度和 checkpoint 语义；共享基础设施根据拓扑配置自动推导并行执行与参数布局
- 两大工作流：补全层边界（layer boundaries）集成；权重加载改为由算子（operator）自有的 layout 负责
- 收益：新增模型不必重新实现并行逻辑，覆盖构建、前向执行、权重加载三个环节
RFC 已在 GitHub 开放征求意见（issue #47170）。
「Infra」频道最新
- 补充图表：AI 算力销售每 9 个月翻倍的趋势曲线 — SamuelAlbanie · 2026-10-30
- Epoch AI：2026 Q2 售出 AI 算力已超 2024 全年，每 9 个月翻倍 — SamuelAlbanie · 2026-10-30
- 数据中心限建案成游说焦点，纽约两月游说支出达 6450 万美元 — news-10 · 2026-10-30
- Jassy 放话 AWS 将成万亿美元营收业务,但要先烧钱砸算力 — TechCrunch AI · 2026-10-30
- 2020 年老 GPU 租金仍在上涨，用数据打脸「三年淘汰论」 — JFPuget · 2026-10-30
- Intel 电话会十大要点：服务器 CPU 市场五年看涨至 2000 亿美元 — ryanshrout · 2026-10-30