SubQ Snap 上线 3 小时达 11.4B tokens/小时，SkyPilot 承载推理
skypilot_org · x · 2026-10-13
Subquadratic 团队推出 SubQ Snap，上线三小时内推理吞吐即达 11.4B tokens/小时（近半小时 7B），由 SkyPilot 平台在其 GPU 集群上提供服务，通过自定义路由和针对长上下文调优的推理优化实现扩展。团队表示可能出现延迟尖峰，正考虑开放部分训练集群用于推理。
所属事件:Subquadratic 发布 384K 长上下文决策模型 SubQ Snap(24 条相关)→
「Infra」频道最新
- Swift-1.5-Qwen3.8-27B 移植 hipfire：7900 XT 上端到端快 2.2 倍 — Queasy_Asparagus69 · 2026-10-23
- Intel CTO：芯片产能最多翻倍，追不上 AI 算力每年 3 倍增速 — SammaVaco · 2026-10-23
- 工程师拆解投影电视唤醒慢根因：双 Linux 板冷启动拖慢 10 秒 — banteg · 2026-10-23
- Ollama CEO 称企业级 AI 正迎来它的 PC 时刻 — ollama · 2026-10-23
- Modal 开源 Spindle：Tinker 兼容自托管训练服务器，按 GPU 计费替代按 token 计费 — josh_wills · 2026-10-23
- Aleph Alpha 拆解 RL 环境基建踩坑:GPU 停摆、磁盘爆满、沙箱崩溃被记为答错 — _ScottCondron · 2026-10-23