Fireworks AI 日推理 token 超 40 万亿,专用模型成主力

据 Nat Lambert 引述的消息,推理服务商 Fireworks AI 每天处理的 token 量已超过 40 万亿,且绝大部分来自「专用模型」——即为客户做过后训练(post-training)定制的模型。这一数据表明,随着 AI 应用规模化落地,面向具体场景调优的专用模型正成为推理 workload 的主力,也凸显了专用推理服务市场的快速增长。

2026-11-04 ~ 2026-11-04 · 2 条相关

另有 1 条近重复转述:andrew_n_carr