Together.ai推出新一代开源模型推理平台

Together.ai(Together Compute)发布了新一代开源权重模型推理平台。该系统的设计基于其每月处理超400万亿tokens的真实线上流量经验。新平台的核心亮点在于允许开发者在真实流量环境中测试变更而不影响线上用户,同时提供了稳定的端点和便捷的模型切换功能,旨在为生产环境提供高可靠性的开源模型推理服务。

2026-07-24 ~ 2026-07-24 · 3 条相关