Modal 联合发布开源 AI-SQL 引擎 Quail:单 H100 每分钟 10 亿 token
sh_reya · x · 2026-09-26
shreya 宣布与 Modal 合作的全新开源 AI-SQL 引擎 Quail：通过将查询规划与 LLM 推理统一调度，单条查询在一张 H100 上即可达到每分钟 10 亿+ 输入 token 的吞吐。
AI 驱动的数据算子正在形成一类全新的推理工作负载——对海量 agentic trace 数据做 AI-SQL 推理，有望解锁大量新能力与洞察。评论认为这是未来会变大的工作负载方向。原帖附详细技术展开线程。
所属事件:UC Berkeley 团队联手 Modal 开源 AI-SQL 引擎 Quail，单 H100 吞吐破 10 亿 token/分钟(22 条相关)→
「Infra」频道最新
- Go 官方详解：1.27 实现跨平台 SIMD，设计参考 C++ Highway — arpit_bhayani · 2026-09-26
- Go 1.27 引入实验性 SIMD API，告别手写汇编 — arpit_bhayani · 2026-09-26
- 绕过 NGX 架构门槛：在 Volta 老 V100 上跑通 DLSS 5 神经渲染 — Ancient-Tomorrow-871 · 2026-09-26
- 开发者大会总结:AI 编码正走向「智能体软件工厂」 — ahahabbak · 2026-09-26
- 16GB 内存跑 3 个 agent + 10 子代理，还剩 5GB 空闲 — Teknium · 2026-09-26
- 如何在生产环境落地机密计算？Reddit 求实践经验 — metalvendetta · 2026-09-26