ai& 推出异构推理平台:混用 AMD 与英伟达芯片,降本 80%
DavidBennett__ · x · 2026-08-08
AI 公司 ai& 宣布推出高性能推理平台 ai& inference。该平台基于异构计算架构,在同一服务层下混合调度 AMD、英伟达及 Tenstorrent 等多种底层硬件。
核心亮点:
- 大幅降本:官方宣称其推理成本较当前同类专有方案低 80%。
- 无缝切换:完全兼容 OpenAI 与 Anthropic API,开发者仅需修改一行代码即可切换服务商。
- 软硬协同:平台将推理计算流水线解耦,把不同的计算步骤分配给最适合的处理器执行,从而突破单一芯片架构的性能天花板。
「Infra」频道最新
- Tobi 开源 walgit:无数据库的单二进制 Git 服务器 — jevon · 2026-08-24
- s3collections:用S3构建分布式系统持久化数据结构 — andersonbcdefg · 2026-08-24
- 预测市场:年底前美一州实施数据中心禁令概率 68% — Polymarket · 2026-08-24
- Ramp 用本地模型省钱,引发业界对 AI 成本反思 — annetgriffin · 2026-08-24
- GitHub Actions 额度耗尽,是时候迁移到自建 VPS 了吗? — MicahBerkley · 2026-08-24
- Ubuntu 计划成为 RISC-V CPU 的参考操作系统 — bookwormengr · 2026-08-24