轨道数据中心的推理一致性难题
aaronburnett · x · 2026-07-16
这篇分析聚焦“轨道数据中心”在推理阶段的一个关键约束：**推理网络一致性**（inference network coherence）。作者认为，这个问题很少被公开讨论，但会直接影响星上算力的效率和经济账。 文章的核心结论包括： - 现代 Frontier LLM 多为 MoE 架构，地面运营方可以把大量专家分散到大型 GPU 集群中；NVIDIA 的基准表明，这种分散方式最高可带来约 **1.8x** 的 tokens/s 提升。 - 但单颗卫星无法像地面机房那样分布式协同，GPU 之间需要在约 **5 微秒** 内同步，而光速只覆盖约 **750 米** 量级的往返距离，因此“可保持一致性的 GPU 团队”在单星尺度上会遇到硬约束。 - 可行路径主要有两条：一是让卫星编队飞行、把星间距离压到约 **150 米**；二是把模型“塞进”单星算力边界里，接受性能损失。 - 作者估算，一颗功率规格约等于一柜 **GB300 / NVL72（72 GPU）** 的 AI 卫星，如果承载一个 **256 expert** 模型，每块 GPU 要负担的专家数会显著高于地面配置。 - 在保守假设下，卫星端处理 tokens 的效率约比地面低 **44%**，作者称之为“containment tax”，即要用约 **1.8 颗卫星的 GPU 资源** 才相当于地面 1 份工作量。 文中也给出降低税负的杠杆： 1. 通过软件/架构重写，最多可吃掉一半损失； 2. 让模型按卫星的 72 GPU 规模做共设计，这是最便宜也最直接的杠杆； 3. 提高单星功率密度，进入更高功率的卫星节点后，基础损失有望进一步下降。 作者判断，这种共设计方向很可能会先出现在 Grok 和 Composer 这类模型上，未来甚至可能向外部客户开放。