Airbnb 微调 Gemma 4 E2B 替代前沿模型:延迟 35ms 成本仅 1%
DynamicWebPaige · x · 2026-11-07
Google 的 Paige Bailey 转发并评论了 Airbnb 工程团队的实践:与其用 2700 词 prompt 加 900ms 延迟的前沿模型,不如让微调小模型干自己的活。Airbnb 将 Gemma 4 E2B 在单张 GPU 上用 vLLM 微调后部署为类似 JEV 的分类器,效果扎实:
- 中位延迟 35ms,p99 仅 85ms
- F1 达 0.902,与前沿模型持平
- 规模化成本约为前沿模型的 1%
作者还给出了完整的 deep dive(GLOWC + Gemma 4 部署方案),是小模型微调替换大模型做专项任务的典型工程案例。
所属事件:Airbnb 微调 Gemma 小模型替代前沿大模型，成本仅 1%(2 条相关)→
「编程与Agent」频道最新
- Copilot CLI v1.0.108 修复 Grok PDF 附件与沙盒 MCP 路径问题 — copilot-cli-release-app[bot] · 2026-11-07
- 开放 DCR 的 MCP 服务器暗藏授权码劫持风险,redirect_uri 该不该设白名单 — After_Pumpkin3803 · 2026-11-07
- 事故响应 Agent 实战:为什么只存失败经验而不信记忆系统 — noufal_rizwan · 2026-11-07
- 客服挂断后 AI 留在线上追问一句，把通话纪要变成可执行任务 — gsuiteautomations · 2026-11-07
- 清华 Coca-Cola 压缩 Agent 工具输出,token 省 89% 性能反升 — Tsinghua · 2026-11-07
- ComfyUI-freefield 侧边栏集成 117 个现成工作流,一键下载模型并运行 — neuregex · 2026-11-07