开源 AI-SQL 引擎 Quail 单 H100 跑出每分钟 10 亿 token
sh_reya · x · 2026-09-25
研究者 shreya 与 Modal 合作发布开源 AI-SQL 引擎 Quail。核心思路是把查询规划与 LLM 推理联合设计（co-design）：AI 算子作为新的推理负载，由系统统一调度查询计划和推理过程，从而在单张 H100 上对单个查询实现超过 10 亿输入 token/分钟的吞吐。作者称 AI 驱动的数据算子构成了一类新颖的推理工作负载，Quail 展示了针对明确使用场景做推理栈协同设计的收益。项目已开源。
所属事件:UC Berkeley 团队联手 Modal 开源 AI-SQL 引擎 Quail(25 条相关)→
「编程与Agent」频道最新
- dots 更新支持 agent 同时控制 Windows 与 Mac 双机 — dkundel · 2026-11-12
- Granola 推出 Agent Briefs:每晚为 AI agent 打包你的最新上下文 — soleio · 2026-11-12
- 新基准 Continual-ARC:主流 Agent 均无法从经验中学习 — alifcoder · 2026-11-12
- KubeCon 前夕 Azure Day：AKS 单集群 65 节点跑 2.2 万个 Agent — davemccollough · 2026-11-12
- OpenShell 实用技巧:一条命令把沙箱内 Web 应用暴露到浏览器 — gethackteam · 2026-11-12
- 开发者打造「智能操作系统」：模型与智能体直接内建于 Linux 桌面系统 — NerdyRodent · 2026-11-12