Fireworks 实战：开源模型加微调可追平闭源，Cursor 推理快 13 倍
AI Engineer · youtube · 2026-10-12
Fireworks AI 应用机器学习团队负责人 Jetashree Ravi 在 AI Engineer World's Fair 上的演讲，主题是从租用闭源智能转向「训练-部署闭环」。
三个判断：开源模型（如 GLM 5.2）已达生产可用；微调定制能补齐与闭源模型的质量差距；AI 技术栈正在转向持续的「训练-服务」循环。
规模与成绩：Fireworks 服务约 3 万亿 token、1 万多家公司；Cursor 的 Composer 2 在其上训练和托管，推理快 13 倍；Vercel 延迟改善 40 倍；Genspark 经强化微调质量提升 12%。
技术要点：FireAttention 引擎与自定义 CUDA kernel；带自定义 draft model 的投机解码；三种训练方式（training agent、managed training、SFT/RFT/DPO 训练 API）；一键部署、监控、热加载新权重不宕机，以及训练与推理间的数值一致性。
「Infra」频道最新
- 开发者用 C++20/CUDA 重写 MegaCapybara 推理服务器,反击「信任我兄弟」式闭源二进制 — giveen · 2026-10-12
- 2美元ESP32跑DNS广告拦截,14万域名仅占0.7MB — LinusEkenstam · 2026-10-12
- 单卡多引擎不再爆显存:开源工具 Berth 给 GPU 加 VRAM 租约调度 — Distinct-Pie2389 · 2026-10-12
- 工程师晒入职满月动态：加入英伟达做 Groq LPU 编译器 — blelbach · 2026-10-12
- Linus Ekenstam 立目标：要在手机上跑千亿参数模型 — LinusEkenstam · 2026-10-12
- 谷歌芬兰数据中心涉嫌违规砍林,环境影响评估暂停施工 — heyimada · 2026-10-12