开源 AI-SQL 引擎 Quail:单张 H100 跑出每分钟 10 亿+ token 吞吐
sh_reya · x · 2026-09-25
作者与 Modal 合作的 Quail 是一个开源 AI-SQL 推理引擎,通过将查询规划与 LLM 推理联合优化,在单张 H100 上对单个查询达到 1B+ input tokens/min 的吞吐,专为 AI 驱动的数据算子这一全新推理负载设计。
所属事件:UC Berkeley 团队联手 Modal 开源 AI-SQL 引擎 Quail(25 条相关)→
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村,上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场,改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募:七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11
- Anthropic 称用 AI 3 天完成 AMD GPU 移植,动摇 Nvidia CUDA 护城河 — The Decoder · 2026-11-11