vLLM 团队驳斥抽象算力供需估算:软件优化可带来超线性收益

针对用抽象「AI 算力供给 vs 需求」模型估算股价的分析师,vLLM 创建者 Woosuk Kwon 回应称这类估算往往严重偏离实际,因其忽略了系统层面的硬数据。他引用 vLLM 博客指出,借助 Rubin 硬件与一系列架构及软件优化,单代硬件内吞吐量相比以往可提升约 90 倍,说明优化带来的超线性收益远超抽象供需框架的想象。

2026-11-17 ~ 2026-11-17 · 2 条相关