Inworld 开放推理服务:月处理数十万亿 token,按请求设定优先级
thetripathi58 · x · 2026-10-15
- 面向消费级 AI 应用的推理服务商 Inworld 宣布对外开放其推理服务,声称每月已处理数十万亿 token,针对消费级场景从底层构建推理栈。
- 卖点是按请求灵活设定服务层级:同一场对话里,正式回答走 Priority 高优先级通道,进度提示等次要输出走 Flex 低成本通道,同一个模型可在不同请求间切换 tier。
所属事件:Inworld 开放推理服务，月处理数十万亿 token(2 条相关)→
「Infra」频道最新
- KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉 — kaist-ai · 2026-10-15
- ASML 上调 2026 销售预期至 450 亿欧元,但警告 EUV 设备短缺将持续到 2028 — CurieuxExplorer · 2026-10-15
- NVIDIA 将亮相 SIGGRAPH Asia 2026，聚焦神经渲染与机器人 — tomaszbednarz · 2026-10-15
- 鸡舍里的 256GB 显存怪兽：网友用 4 张 CMP 170HX 自建本地 AI PC — sevendaysworth · 2026-10-15
- Google TPUv7 首次参测:每美元性能达 GB300 NVL72 的 1.67 倍 — scaling01 · 2026-10-15
- 微软 MAI-Image-2.6 上架 Vercel AI Gateway，一个 Key 调两档模型 — lmoroney · 2026-10-15