join ordering + Kaplan-Meier + trie attention，让分析推理效率提升 10 倍
charles_irl · x · 2026-11-12
- 作者在旧金山一场分享（Modal × Full Stack Data Lab 的 AI-SQL 活动，主题"数据库与推理的不洁联姻"）中介绍了三项提升分析场景推理效率的技术：join ordering（连接顺序优化）、用 Kaplan-Meier 估计解码长度、trie attention。
- 作者称这些组合可将 analytics 场景的推理效率提升约 10 倍。
- 核心思路是把数据库系统技术（查询优化、生存分析）引入 LLM 推理路径：用数据库的连接顺序思想重排推理计划，用 Kaplan-Meier 生存估计预测 decode 长度，用 trie attention 复用前缀结构。
「Infra」频道最新
- 曝英伟达董事会聘请外部机构寻找黄仁勋接班人 — kimmonismus · 2026-11-12
- RDNA3 定制 llama.cpp fork 让 7900 XTX 推理速度翻倍至约 100 tok/s — Jebbyk1 · 2026-11-12
- 郭明錤:黄仁勋是英伟达不可替代的引擎,Rubin 已因 HBM4 推迟至 2027 — zephyr_z9 · 2026-11-12
- 拆解：Anthropic 268 万芯片中英伟达仅占 3%，全行业最低 — teortaxesTex · 2026-11-12
- Kobeissi披露：曾质疑英伟达173亿美元新加坡营收是芯片转运通道 — josh_bickett · 2026-11-12
- 搞懂 LLM 推理的 6 项关键技术：从 PagedAttention 到 Prefill/Decode 分离 — techNmak · 2026-11-12