Airbnb 用 Gemma 4 E2B 做策略分类:成本 1%,延迟 35ms,F1 达 0.902
petrusenko_max · x · 2026-11-20
Google Gemma 官方转引 Airbnb 工程团队的实践:用 Gemma 4 E2B 做政策分类,部署在单张 NVIDIA RTX Pro 6000 GPU 上——
- 质量:max F1 从 0.563 提升到 0.902,追平顶级 frontier API
- 速度:中位延迟 35ms(p99 85ms),frontier 模型约 900ms
- 成本:高并发下约为 frontier API 支出的 1%
发帖人补充了一个关键的工程警示:再低的延迟也没用——如果业务政策变了而旧 eval 集仍全部通过,分类器实际上已经错了。小模型专用的价值来自认真做 eval、领域数据,以及清楚什么时候专用小模型优于大 prompt。
「编程与Agent」频道最新
- Vibe coding 让企业同一个内部应用被建了三遍 — shensi · 2026-11-20
- AI Skills 共享仍是工程师专属,非研发部门难用 — shensi · 2026-11-20
- Yacine:Joseph Suarez 开源的 skill 文件「值一亿美元」 — yacineMTB · 2026-11-20
- Google Genie 4 上线 Gemini API:可交互世界模型开放调用 — _philschmid · 2026-11-20
- Cognee 开源:用开放权重模型加 Postgres 搭公司知识本体,免图数据库 — philipvollet · 2026-11-20
- 用户用 Antigravity 智能体集群自动做出两款弹球游戏 — AI_Andrew · 2026-11-20