Lightning云H100吞吐显著高于GCP

LightningAI · x · 2026-07-16

Lightning AI 对比了同样的 benchmark、同样的脚本、同样的 H100 SKU 下，不同云的性能差异：

• Lightning：48–49 GB/s，8 张 GPU 全部参与
• GCP：26.4 GB/s，8 张 GPU 全部参与

他们认为差距主要来自 拓扑结构。文章进一步解释了 Lightning Cloud 的完整技术栈，包括：

• provisioning gate
• 向 Cloud Hypervisor upstream 的 4 个修复
• 一个能把 8 节点任务调度到共享同一交换机机器上的 scheduler

这条强调的是云基础设施和集群拓扑如何显著影响训练/通信性能。

原文链接 →

「Infra」频道最新

• vLLM 考虑将更多栈迁往 Rust，推理引擎 Rust 化成趋势 — AccBalanced · 2026-10-27
• 同一套 DeepSeek 内核两种优化路线：vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27
• Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
• Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27
• Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
• profiling 实测：Alchemy Cloudflare 绑定 CPU 时间最多降 166 倍 — samgoodwin89 · 2026-10-27

更多「Infra」频道 AI 资讯 →