vLLM 团队回应算力供需之争:架构与软件优化可实现超线性收益
woosuk_k · x · 2026-11-17
Woosuk Kwon(回应关于 AI 算力供需与股价估算的讨论)指出:用抽象的「算力供需」模型估算股价的人往往严重偏离实际,因为他们忽略了 vLLM 等系统的硬数据——单代硬件内,架构和软件优化就能带来巨大提升,例如 DeepSeek v4.1 Flash 经优化可提供约 80 倍的性能提升。实际性能相对 FLOPS、HBM 带宽和模型规模是非线性的,优化得当甚至可以做到超线性(superlinear)。
所属事件:vLLM 团队驳斥抽象算力供需估算:软件优化可带来超线性收益(2 条相关)→
「Infra」频道最新
- 前 Apple 工程师揭秘 Siri 提速:冷启动占比从 25% 降到 4% — jdluk87 · 2026-11-17
- 英伟达推 DGX Spark HPC 开发者套件:4 台 Spark 集群共 4 PFLOPS FP4 — AIFlow_ML · 2026-11-17
- DeepSeek-V4.1-Flash 跑上 Vera Rubin:agent 自主搞定跨机 Engram 表共享 — woosuk_k · 2026-11-17
- DeepSeek V4.1 Flash 跑上 Vera Rubin:单芯片吞吐最高达 GB300 的 93 倍 — Xianbao_QIAN · 2026-11-17
- Hazy lab 反转一年:今年我们删除了 Megakernel,弃用全模型融合方案 — simran_s_arora · 2026-11-17
- SpaceX 争取 28.35-28.6 GHz 最后 50 MHz 频段,FCC 将于 11 月 19 日投票 — RachelVT42 · 2026-11-17