Airbnb 实测:微调 2B 小模型分类质量追平前沿 API,成本仅 1%
Ahmad_Al_Dahle · x · 2026-11-05
Airbnb 工程团队分享了在生产分类任务上微调 2B 开源模型 vs 前沿 API 的基准结果:Fine-Tuned-E2B 达到 F1 0.902、中位延迟 36ms、成本约为前沿模型的百分之一,质量与 GPT/Claude 前沿 API 持平。文中讨论了何时自训何时买:交互式产品和高吞吐场景除准确率外还需低延迟、可控的 FP/FN 权衡(可从 logprobs 提取打分阈值);小模型开箱即用会漏掉细粒度区分,而更好的 prompt 有天花板。他们用内部框架 GLOWC 微调开源语言/视觉语言模型来实现这种快速、准确的分类器,并给出了适用与不适用的判断框架。
「Infra」频道最新
- Snowflake 发布 Business Ontology 与 Cortex AI Gateway,押注企业 AI 治理层 — shashib · 2026-11-05
- Ricursive 首发自训 Ripple-65B:1/10 成本拿下美国开源 Agentic 编码 SOTA — HazyResearch · 2026-11-05
- 全 Rust 本地 LLM 套件 LexiSuite 发布,部分场景超越 llama.cpp — W61k3r · 2026-11-05
- Gary Marcus 断言数据中心狂欢将崩塌:多数项目难存活 — GaryMarcus · 2026-11-05
- Merge 实测:自家 MCP 连接器比微软官方版工具更多、报错减半 — shensi · 2026-11-05
- TorchTPU 兼容性实测:4917 个社区模型中 4821 个可正常运行 — jiqizhixin · 2026-11-05