OpenRelay 推统一推理端点:支持 8 种加速器,降本达 20%
ycombinator · x · 2026-08-08
OpenRelay 宣布推出“统一端点”服务,旨在整合全球计算资源供 AI 推理使用。该服务具有以下核心特点:
- 多硬件支持:支持包括 NVIDIA、TPU、Trainium、AMD 在内的 8 种加速器。
- 全球覆盖:跨越 4 个大陆的 22 个节点,每周处理超 1000 亿个 token。
- 成本优势:宣称比用户自行租用硬件的成本最高可降低 20%。
「Infra」频道最新
- 初创公司 Radixark 暗中支撑 xAI 等大厂推理 — bookwormengr · 2026-08-08
- RTX 4090 跑 MiniMax 视频:优化后 10 分钟生成 15 秒 — NeverLucky159 · 2026-08-08
- 德州州长叫停数据中心电网接入,全美近20%项目或延期 — ivan_bezdomny · 2026-08-08
- 旧金山 AI 圈狂聊 OSL,却忽视了缓存命中率 — dylan522p · 2026-08-08
- 智能体网络攻击引发军备竞赛,算力供需失衡将加剧 — Justin_Halford_ · 2026-08-08
- 马斯克计划发射太阳能AI卫星,解决AI能源瓶颈 — r0ck3t23 · 2026-08-08