某推理服务商月处理破 5000 亿 token,推 Autopilot 让供应商多赚
gajesh · x · 2026-10-01
一位 AI 推理/算力服务商负责人发布致供应商社区的月度信,回顾 9 月进展:
- 平台累计处理 token 突破 5000 亿;
- 新加入两名团队成员;
- 取消了 MDM(移动设备管理)相关要求;
- 上线了更多模型;
下一步重点是通过 Autopilot 让供应商获得更高收益。
「Infra」频道最新
- Cognition 抢下 CoreWeave Vera Rubin NVL72 首单,SWE-2 吞吐提升 4.8 倍 — altryne · 2026-10-01
- Nvidia 授权 1500 亿美元回购,被视为押注未来需求 — YvesMulkers · 2026-10-01
- GLM 5.3 Flash 重写内核上线 RunInfra：670 tok/s、缓存命中率 99.7% — ycombinator · 2026-10-01
- Pareto 与 Engy 达成合作，将 Bittensor SN10 推理优化输出给第三方客户 — markjeffrey · 2026-10-01
- Respan 发布 Span-01 模型路由器：比单模型省 37% 成本 — ycombinator · 2026-10-01
- 实测 RTX 3090 功耗可降至 120W,推理省电又降温 — QuixiAI · 2026-10-01