Modal 联手开源 Quail:AI-SQL 引擎单 H100 每分钟跑 10 亿 token
sh_reya · x · 2026-09-25
- 研究者与 Modal 合作发布开源 AI-SQL 引擎 Quail:通过将查询规划与 LLM 推理联合编排,单条查询在一张 H100 上达到 10 亿+ 输入 token/分钟的吞吐。
- 核心思路是把 AI 算子做成类 SQL 的一等公民,LLM 语义判断与确定性 SQL 执行深度协同:用确定性规划代码搭配基于干扰(interference)的执行方式,还支持在 SQL 中混用语义 IF 的语法。
- 团队指出 AI 驱动的数据算子(filter/join 类语义操作)构成一类全新的推理负载形态,展示了 LLM 分类能力在大规模数据处理上的工程价值。
所属事件:UC Berkeley 开源 AI-SQL 引擎 Quail：单 H100 每分钟跑 10 亿+ token(14 条相关)→
「编程与Agent」频道最新
- GitHub 重构 Copilot app,搞定百万行、2200 文件的巨型 PR 渲染 — mariorod1 · 2026-09-25
- Opus 5.5 一条提示词复刻 Minecraft：1 小时约 20 美元搞定 — amasad · 2026-09-25
- Dan Shipper 演讲：如何在快速演进的前沿模型上构建产品 — danshipper · 2026-09-25
- 从零构建 Agent 新思路:大模型写作、Jev 决策、代码兜底 — blaizedsouza · 2026-09-25
- 开发者称 RAG 检索用 Jev 语义匹配比向量点积更可靠 — blaizedsouza · 2026-09-25
- oxlint-tsgolint v7.0.2003 发布：新规则加 30% 检查提速 — cnakazawa · 2026-09-25