Fireworks 发布 Ember-1:基于 Kimi K3,推理 token 省 40% 质量持平
sophiamyang · x · 2026-09-24
Fireworks Research 推出专用模型 Ember-1,基于 Kimi K3 训练,旨在抑制推理模型的过度思考:产出更短的推理链,token 用量减少约 40% 而质量相当。
- 方法:在 Fireworks serverless 平台上做了 50+ 次训练、200+ 次评测,用新算法削减冗余推理(每轮重复读取思考内容造成的成本堆积)。
- 结果:在 7 个公开基准上与 k3-max 质量持平;在 Bedside Bench 上对 GPT-6 Astra、Opus 5 取得最佳成本-质量权衡;已有客户整体迁移至 Ember-1。
- 规格与定价:2.78T 参数 MoE,1040k 上下文,支持函数调用与图像输入;serverless 定价 $3.00/百万输入、$0.30/百万缓存输入、$15.00/百万输出,也支持按需专用 GPU 部署。
「Infra」频道最新
- 爆料:Google 或于下周用猎鹰 9 号发射太空 TPU,测试轨道 AI 数据中心 — ns123abc · 2026-09-24
- 研究员利用 Cloudflare Containers 漏洞读取其他租户磁盘残留数据 — matthew_d_green · 2026-09-24
- IIT 德里发布印度首款自研微型 GPU — Paimaamu · 2026-09-24
- Marvell 与 GlobalFoundries 达多年协议,扩充硅锗产能 — Beth_Kindig · 2026-09-24
- LLM Compressor v0.14.0 发布,GPTQ 量化提速最高 30 倍 — vllm_project · 2026-09-24
- Reddit 讨论:AI Agent 的数据库隔离与状态回滚怎么做 — Antique-Willow-5841 · 2026-09-24