Fireworks 每天推理超 40 万亿 token,专攻后训练专用模型

andrew_n_carr · x · 2026-11-04

Nat Lambert 援引消息称,推理服务商 Fireworks AI 每天处理超过 40T(40 万亿)token,且全部来自"专用模型"——即为客户做过后训练(post-training)定制的模型,而非通用 API。Andrew Carr 对此表示惊讶,并追问其增长曲线如何、token 量级是否算大。这一数据侧面反映了企业级定制模型推理需求的规模。

所属事件:Fireworks AI 日推理 token 超 40 万亿,专用模型成主力(2 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →