开源 AI-SQL 引擎 Quail 单张 H100 达每分钟 10 亿+ 输入 token

sh_reya · x · 2026-09-27

shreya 发布开源 AI-SQL 引擎 Quail(与 Modal 合作)。其核心思路是把查询规划与 LLM 推理联合优化,单条查询即可在一张 H100 上跑到超过 10 亿输入 token/分钟。作者认为 AI 驱动的数据算子构成了一类全新的推理负载形态。转发评论也指出:虽然"领域专用 harness"已成梗,但做对了效果惊人。

所属事件:UC Berkeley 与 Modal 开源 AI-SQL 引擎 Quail(24 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →