eBay 将 GPT-4.1 相关性裁判蒸馏进小型 Gemma-3,成本延迟大降
_reachsumit · x · 2026-10-14
eBay 团队发表论文,展示如何把基于大模型的相关性判断系统蒸馏为高效多模态学生模型,用于电商搜索相关性预测。
- 背景:查询与商品的相关性预测是电商搜索的基础;人工标注可靠但贵、慢、难扩展,直接用大型商业 LLM 做 judge 又推高成本、限制吞吐
- 流程:先人工标注小规模高质量数据作为基准,通过 prompt 工程与迭代打磨构建可靠的 LLM-as-a-judge 流水线,再用它生成大规模相关性标注,训练紧凑的多模态学生模型(基于 Gemma-3)
- 效果:蒸馏后的学生模型性能接近教师系统,同时显著改善延迟、成本与可扩展性,使高质量相关性预测可实际部署
这是 LLM 蒸馏在工业搜索场景的典型落地案例。
「研究」频道最新
- 小鹏发布自动驾驶 VLA 模型 AUGUstus，NAVSIM 双榜 SOTA 并实车部署 12Hz — XPENG-AI · 2026-10-14
- 阿里联合南洋理工系统评测对比学习策略：多数花式技巧收效甚微 — alibaba-multimodal-industrial-ai · 2026-10-14
- Lightricks 推出 APEX：层级潜空间+异步去噪，实现 64-128 倍极致压缩 — Lightricks · 2026-10-14
- EMHO：冻结模型不变，让具身智能体框架从经验轨迹自我进化 — Hyun Jung Lee · 2026-10-14
- 港中深等发布 WorldCast：分布式多人世界模型，CS2 上实时运行 — CUHKSZ · 2026-10-14
- 高丽大学发布 MixLID：token 级混合语言识别模型，覆盖 111 种语言 — Seongtae Hong · 2026-10-14