Together AI推出Qwen3.8-2.4T-A95B无服务器推理,支持高吞吐编码与Agent负载
togethercompute · x · 2026-08-13
Together AI宣布其Serverless Inference服务为Qwen3.8-2.4T-A95B提供托管高吞吐路径,适用于编码和Agent工作负载。模型支持256K上下文、128K输出,推理努力可调,并提供99.9% SLA。
所属事件:Together AI推出Qwen3.8-2.4T-A95B无服务器推理服务(2 条相关)→
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火,挪威查出10项安全违规 — saranormous · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB:腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin,解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16
- 中美云巨头采购对比:美国画饼带资源,中国只看 BoM 压到 7% 毛利 — jwt0625 · 2026-10-16