Syzygy 称算力短缺是软件问题:压缩可让 GPU 利用率从 6% 到 90%
teortaxesTex · x · 2026-11-17
初创公司 Syzygy 提出「算力短缺本质是软件问题」:推理时的语言模型通常在参数量和数值精度上都超出需求数个数量级,通过压缩可让客户在已有或租用的节点上运行前沿智能。
配图展示其对比数据:典型 human+agent+compute 工作流中 GPU 仅有 6% 时间在做有效计算(waithuman 阻塞 96 分钟、权重加载 60 分钟),而其方案下持久化、全重叠的执行可达约 90% 有效利用率。
公司预告将在未来几周发布一系列面向递归 AI 研发的新 GPU 原语,目标是提升每美元 GPU 的发现产出,并让用户在受限硬件上拥有更多控制权。
「Infra」频道最新
- 印度主权 AI 实验室 Sarvam 被批靠中国开源模型做托管生意 — ayushthakur0 · 2026-11-17
- Nvidia 将 Megaspeed 列入禁售名单,此前美方正调查其销售记录 — Polymarket · 2026-11-17
- NVIDIA 开源 cuPotential:分子动力学非键相互作用计算最高提速 3 倍以上 — AllThingsApx · 2026-11-17
- 网友单卡 B200 复现 4-bit 前向训练:3.3B 模型提速 38%,损失不变 — OtherRaisin3426 · 2026-11-17
- 传黄仁勋考虑创办全新半导体公司,首日或募数百亿美元 — Redo · 2026-11-17
- 研究者点评 Together 的 Torch Compile 与 Megakernel 权衡研究 — simran_s_arora · 2026-11-17