DeepInfra 日处理超 7000 亿 tokens，全面采用英伟达 B300

gharik · x · 2026-08-06

DeepInfra 宣布其在 OpenRouter 上每日处理的 token 数量已超过 7000 亿，并且通过私有端点为更多客户提供服务。

基础设施方面，其全面采用英伟达 Blackwell Ultra B300 芯片并在美国本土部署。同时指出以 DeepSeek V4 Flash 为代表的开源模型已达到生产级标准，缓存命中率接近 90%，大幅降低了 token 的单位成本，标志着 token 经济学迎来了关键拐点。

原文链接 →

「Infra」频道最新

• Cloudflare 发布开源操作系统，打造 AI 专属底层设施 — Fcking_Chuck · 2026-08-06
• YC 新创 Standard Machines 发力 AI 芯片设计，用强化学习加速流片 — ycombinator · 2026-08-06
• Proxmox VE 正式支持 ARM64，可混搭 x86 架构集群 — unixterminal · 2026-08-06
• Google TPU 算力优势与 AlphaChip 现状引开发者群嘲 — teortaxesTex · 2026-08-06
• Cloudflare 发布 Gadgets：让 AI 安全重构个人应用架构 — AI Engineer · 2026-08-06
• Bittensor去中心化存储网络：总容量约900TB — markjeffrey · 2026-08-06

更多「Infra」频道 AI 资讯 →