Shopify RoutingTrie:把元数据过滤前置到生成式检索解码,Hit@100 提升 28.6 个百分点
_reachsumit · x · 2026-11-11
Shopify 团队在 arXiv 发表 RoutingTrie：在生成式检索 (GR) 中，把元数据约束前置到 beam 选择阶段，而不是生成后再过滤。
- 共享一个语义 ID trie，为每个元数据字段用 Dense Bitset 或 Sparse List 建紧凑索引，并给出存储成本公式指导选型
- 解码时字段探测生成合并掩码，引导 beam 只沿满足约束的边扩展
- 在生产回放中 Hit@100 从 67.5% 提升到 96.1% (+28.6pp)，延迟仅增加 1.1ms
- 将开源 ShopTrie 合成基准生成器、基准脚本及 CPU 和 Triton GPU 实现
对做电商/目录类生成式检索的工程团队很有参考价值。
「Infra」频道最新
- 网友提议数据中心建地下：余热融雪、地面还作公园 — MatthewChang · 2026-11-11
- SpaceX 拟在得州 Starbase 建 240 亿美元 AI 数据中心与天然气电厂 — Polymarket · 2026-11-11
- 微软 Auto SR 正式上线 Xbox Ally X,掌机模式支持 1080p 与 120fps — tomwarren · 2026-11-11
- Gemini 4 Carbon 登陆 Databricks,企业文档测试得分 66.7% — matei_zaharia · 2026-11-11
- Anthropic:让 Claude 移植内核，3 天跑通 AMD GPU — scottleibrand · 2026-11-11
- Kimi K3.1 Pro Highspeed 登陆 Bedrock:速度提升 2-3 倍、百万 token 上下文 — AWS ML Blog · 2026-11-11