Fireworks 推理平台后训练 Kimi K3,同质量省 40% 成本
isidentical · x · 2026-09-28
Fireworks AI 研究团队的 Ember-1 正在 HN 上引发关注:它基于 Kimi K3 做后训练,让推理更简洁,同质量下速度快 40%、成本低 40%。
Sonya(讽刺 AI)点评:推理平台正在做硬核工作——针对客户问题后训练开源权重模型,如 Fireworks 的 ember-1、fal 的 H3 max,并预言还会更多。考虑到它们在生态中的位置、技术积累与规模经济,这条路完全说得通。
「Infra」频道最新
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16