Basalt 0.5.5 本地跑 Inkling-2-Mini 达 613 tps,19.7GB 模型包

udmrzn · x · 2026-11-23

Basalt 推理引擎开发者连发更新,本地大模型推理速度屡创新高:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →