CMU 开源 Quail:用 SQL 让 LLM 逐行做语义判断
sh_reya · x · 2026-10-04
CMU Full Stack Data Lab 开源了 Quail(QUery Aware Inference Layer),一个可扩展的 AI-SQL 执行引擎,让开发者在 SQL 里用自然语言对每一行数据做 LLM 判断:
- 语法形如 WHERE AI.IF(PROMPT('这篇评论讨论结局了吗?\n\n{0}', r.body)),直接在查询里嵌入语义过滤。
- 配套的 pg-jev 是开源 Postgres 扩展,通过 SQL 函数暴露语义判断:jev() 可用于 WHERE、jevprob() 返回概率、jevchoice() 选标签、jevscore() 跨有序等级打分;无需向量列或 embedding 索引,内部按批处理行数据。
- 作者 @avichawla 指出传统数据库过滤需要精确预定义条件,而大量问题是语义性的,以往要把行搬到应用代码里调模型再写回。
- Quail 作者 shreya 认为 Postgres 这种 OLTP 数据库是合适载体,其团队正为 OLAP 场景设计 Quail。
安装方式为 uv pip install quail-engine(PyPI 包名 quail-engine),要求 Python 3.12 与 CUDA GPU,目前 GitHub 118 star。
「编程与Agent」频道最新
- 开发者实测:Grok Bot 稳定性胜出,成主力编排 Agent — alexcovo_eth · 2026-10-04
- 开发者实战:8 个 coding agent 运行中热更新云端环境零感知 — lucasmeijer · 2026-10-04
- 用 Grok 机器人当「造型师」,自动给所有 bot 换蟾蜍头像 — Baconbrix · 2026-10-04
- 开发者打造机密 GPU 编码智能体,全程认证消息隐私 — bgmshana · 2026-10-04
- SDL 添加 AGENTS.md 引争议:披露的 LLM 辅助贡献该不该拒收 — blelbach · 2026-10-04
- Claude Code 里降级到 Haiku 就翻车,混用模型怎么不掉链子 — Historical_Ant7005 · 2026-10-04