开源 AI-SQL 引擎 Quail：单张 H100 跑出每分钟 10 亿+ token 吞吐
sh_reya · x · 2026-09-25
作者与 Modal 合作的 Quail 是一个开源 AI-SQL 推理引擎，通过将查询规划与 LLM 推理联合优化，在单张 H100 上对单个查询达到 1B+ input tokens/min 的吞吐，专为 AI 驱动的数据算子这一全新推理负载设计。
所属事件:UC Berkeley 开源 AI-SQL 引擎 Quail：单 H100 吞吐破 10 亿 token/分钟(8 条相关)→
「Infra」频道最新
- AMD 携手 Perplexity 打造 Agentic PC，本地运行 AI 智能体 — AravSrinivas · 2026-09-25
- 用水、噪音、电力：数据中心争议中被误读的三笔真实成本账 — bigdata · 2026-09-25
- 家用 GPU 集群供电实战:一台 PDU 最多带动约 16 张 6000 Max-Q — TheZachMueller · 2026-09-25
- Docker 推出 Cloud Sandboxes:合盖后 agent 继续跑 — juntao · 2026-09-25
- Muse Spark 1.3 登陆 Google Cloud 与 Oracle,云合作再扩 — alexandr_wang · 2026-09-25
- Andy Matuschak：现代芯片太耐用，算力管制难以永久封死暗训项目 — andy_matuschak · 2026-09-25