开源 AI-SQL 引擎 Quail 单 H100 跑出每分钟 10 亿 token
sh_reya · x · 2026-09-25
研究者 shreya 与 Modal 合作发布开源 AI-SQL 引擎 Quail。核心思路是把查询规划与 LLM 推理联合设计（co-design）：AI 算子作为新的推理负载，由系统统一调度查询计划和推理过程，从而在单张 H100 上对单个查询实现超过 10 亿输入 token/分钟的吞吐。作者称 AI 驱动的数据算子构成了一类新颖的推理工作负载，Quail 展示了针对明确使用场景做推理栈协同设计的收益。项目已开源。
所属事件:UC Berkeley 开源 AI-SQL 引擎 Quail：单 H100 吞吐破每分钟 10 亿 token(10 条相关)→
「编程与Agent」频道最新
- managed-deepagents 0.8 发布:一个参数搞定 Agent OAuth 身份难题 — hwchase17 · 2026-09-25
- 「谁有最没法合并的 AI 代码泥潭？」开发者公开征集名场面截图 — pvncher · 2026-09-25
- 开源工具 Wake：把散落本地的 Claude/Codex 会话聚合成一个可搜索窗口 — tom_doerr · 2026-09-25
- 开源轻量浏览器 curf:250KB 体积,专为 AI agent 可操控而生 — jasonkneen · 2026-09-25
- Reddit 征集 AI Agent 失控案例：无限重试、循环互甩、一夜烧光额度 — masterai01 · 2026-09-25
- Auto-Research Arena:6300 次运行中 AI 智能体独立重发现前沿 LLM 架构思路 — qixing_huang · 2026-09-25