Fireworks Forge 大会发布 Sovereign 私有化栈与 Ember 下一代,效率再提 30 倍
AccBalanced · x · 2026-11-04
Fireworks AI 在 Forge 活动 keynote 上发布一系列产品:- Fireworks Sovereign:可在任意环境部署的完整 Fireworks 技术栈;- Ember 下一代:9 月发布的 Ember-1 基于 Kimi K3 构建,以少 40% 的 token 达到 Kimi K3 质量并学会裁剪无谓推理;新一代将基于美国开源模型,目标比 Ember-1 效率高 30 倍;- No-GPU:按 token 计费的训练与推理,无需关心底层基础设施;- No-evals:从 trace 和产品信号自动构建评测;- Ultra-loop:推理侧的递归自我改进,每次实验都汇入共享知识库;- Ultra-fast:模型可达 1500–2000 token/秒。
所属事件:Fireworks 发布超快推理与私有化部署新品(2 条相关)→
「Infra」频道最新
- Sipeed 新板喊板 DGX Spark:10cm 见方跑本地推理,还能充电宝供电 — vincent_koc · 2026-11-04
- vLLM 携手 Red Hat 与 NVIDIA,11 月 12 日马德里办开源推理之夜 — vllm_project · 2026-11-04
- vLLM v0.33.0 发布:927 次提交,GB300 解码延迟最高降 2 倍 — vllm_project · 2026-11-04
- Fireworks 发布 Ultra-fast 推理:1500 tok/s 与半价后台推理 — nicolechirps · 2026-11-04
- Fireworks 活动现场讲解 EXL3 滑动窗口位共享量化技巧 — sophiamyang · 2026-11-04
- ThunderAgent 并入 LLM-D,Agent 推理吞吐翻倍、首 token 延迟从 50 秒降到秒级 — simran_s_arora · 2026-11-04