Together ATLAS推理延迟优化方案
togethercompute · x · 2026-07-08
Together 推出 ATLAS,在 API 层之下优化推理延迟,结合 NVIDIA Blackwell、CUDA、TensorRT-LLM、Dynamo 与自研 kernel 协同加速推理。
togethercompute · x · 2026-07-08
Together 推出 ATLAS,在 API 层之下优化推理延迟,结合 NVIDIA Blackwell、CUDA、TensorRT-LLM、Dynamo 与自研 kernel 协同加速推理。