Syzygy 称算力短缺是软件问题:压缩可让 GPU 利用率从 6% 到 90%

teortaxesTex · x · 2026-11-17

初创公司 Syzygy 提出「算力短缺本质是软件问题」:推理时的语言模型通常在参数量和数值精度上都超出需求数个数量级,通过压缩可让客户在已有或租用的节点上运行前沿智能。

配图展示其对比数据:典型 human+agent+compute 工作流中 GPU 仅有 6% 时间在做有效计算(waithuman 阻塞 96 分钟、权重加载 60 分钟),而其方案下持久化、全重叠的执行可达约 90% 有效利用率。

公司预告将在未来几周发布一系列面向递归 AI 研发的新 GPU 原语,目标是提升每美元 GPU 的发现产出,并让用户在受限硬件上拥有更多控制权。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →