Lyft 的真实用户评测闭环
AI Engineer · youtube · 2026-07-19
Nick Ung 讲的是 Lyft 如何给客服/代理系统做更接近真实生产的评测。
核心问题是：很多离线 eval 太“容易”——测试里的“客户”只是普通 LLM，完全不像真实用户那样烦躁、跑题、对抗性强，所以上线后会暴露出离线测不出来的失败模式。
Lyft 的做法是：
- 用真实 Lyft 乘客/司机对话微调一个对抗式用户模拟器，专门扮演情绪化、混乱、挑衅的用户；
- 搭建轻量的 eval harness，让工程师能用很少代码写 benchmark；
- 把 LLM judge 的 rubric 和人工标注做校准，尽量对齐标注一致性；
- 将生产中的失败轨迹持续回流到离线测试集，形成迭代闭环。
他们的客服代理系统大约处理 Lyft 客服问题的三分之一，规模是每月数百万次对话。这个案例的重点不是某个单一模型，而是如何把评测做成可持续的工程系统。
「编程与Agent」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎，AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 投资分析师求教：如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11