Fireworks 每日服务超 40T token，「专用模型」成主力
natolambert · x · 2026-11-04
Nat Lambert 引述数据：推理服务商 Fireworks AI 每天服务的 token 量已超过 40 万亿，其中大部分来自「specialized models」——他将其定义为针对客户做过后训练（post-training）的定制模型。这组数字说明企业级定制模型的推理用量已成规模，微调/后训练模型的实际部署远比公开讨论中更普遍。
所属事件:Fireworks AI 日推理 token 超 40 万亿，专用模型成主力(2 条相关)→
「Infra」频道最新
- NVIDIA 推出 Global Performance Tuner:TensorRT 11.1 自动调优 PyTorch 性能 — PyTorch · 2026-11-04
- RTX 4060 8GB 本地跑 MiniMax H3:540P 视频 8 分钟生成 — DependentKey7761 · 2026-11-04
- SurrealDB 4 发布：主打 Agent 记忆，推出 Cloudflare 无服务器版 Earth — ritakozlov · 2026-11-04
- PlanetScale 揭数据库隐形成本:云盘网络延迟常是性能劣化首因 — DanielLockyer · 2026-11-04
- Binance 披露超 60 亿美元史上最大盗窃案细节，警示 AI 加速社工攻击 — evilsocket · 2026-11-04
- 美国数据中心建设支出已达办公楼两倍，年化 965 亿美元 — ohlennart · 2026-11-04