24张GPU跑出48张产能:华瑞指数云用KVCache存储另辟扩产路
创业邦 · wechat · 2026-11-16
AI 推理扩产是否只能加 GPU?华瑞指数云披露的客户联合验证显示:24 张 GPU 加一个 WQS 存储节点,达到与 48 张 GPU 方案相当的 Token 产能。公司同时宣布完成超亿元新一轮融资。
核心思路:KVCache 上下文存储
- 推理场景会反复复用历史上下文(多轮对话、Agent 调工具等),把已计算的中间结果存入 KVCache 可避免重算;但显存容量有限,缓存被清导致重算、取回慢导致 GPU 等待是两大损耗,单纯加卡无法消除。
- NVIDIA 已于 2026 年 1 月发布推理上下文存储平台并在 3 月介绍 CMX 架构,印证“上下文存储正在成为 AI Infra 的一个新层次”。
WQS 为什么重做存储
- 通用存储经文件接口存 KVCache 有不必要开销;推理上下文有明确 I/O 特征(写后不改、可内容寻址、框架知道哪些块可复用/即将消费),WQS 基于自研 WiDE 引擎走“原生 KV”路线,直接面向 KV 对象寻址,配合用户态 RDMA 绕过通用文件系统环节。
- 全链路软硬协同:推理框架预告知下一步所需缓存块,读取与计算重叠,减少 GPU 等待;缓存跨节点共享扩大调度空间。正推进与 NVIDIA/AMD/昇腾生态及新型介质协同设计,兼容 vLLM、SGLang。
实测数据
- 某 Token 工厂验证:24 GPU + 1 WQS 节点 ≈ 48 GPU 的 Token 产能。
- 某大型企业纯软件融合部署:无需新增硬件,首 Token 时延降低 80%,吞吐提升超 3 倍。
公司背景:2020 年创立,核心团队来自华为、腾讯、IBM、微软、EMC 等;2023 年 WDS 块存储以 2720 万 IOPS 打破 SPC-1 纪录。块/文件存储已服务 200 余家客户核心生产环境,2026 上半年合同额同比增长 150%,目标 12 个月内推动 50 家以上重点用户生产落地。
「创投」频道最新
- 开发者弃用 Vercel 与 Ahrefs,自建工具栈每月省下 400-600 刀 — yihui_indie · 2026-11-16
- 数据中心退租谁来接盘?微软三周吃下Abilene 900MW园区 — tengyanAI · 2026-11-16
- 被夸大的黄仁勋回归叙事:15%股东门槛远不足以自动换掉英伟达董事会 — firstadopter · 2026-11-16
- 创始人把条款写进投资协议:营收破1亿美元,VC须穿达拉斯牛仔队服看球 — pxd · 2026-11-16
- Apple 5.18 万亿美元登顶市值榜,OpenAI 估值仅与 Eli Lilly 持平 — peterwildeford · 2026-11-16
- WSJ:英伟达为 AI 热潮「开空白支票」的日子屈指可数 — Gregory_C_Allen · 2026-11-16