TensorFold 1.2.10 发布:Qwen3.8-27B 解码提速 57%

AIFlow_ML · x · 2026-11-19

本地推理引擎 TensorFold 发布 1.2.10 版本:

TensorFold 支持 Apple Silicon、CUDA 与 AMD HIP/Vulkan,提供 OpenAI 兼容 API,官方公布多项实测数据,如 Nemotron 3.5 Lightning 在 RTX PRO 6000 Blackwell 上达 874 tok/s(带 draft 解码)。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →