开源工具 llmfit 扫描硬件并按质量/速度/适配/上下文为本地模型打分

thisdudelikesAI · x · 2026-11-16

llmfit 是一个开源命令行工具,先扫描本机 RAM、CPU、GPU 和 VRAM,再对数百个模型(覆盖 Meta、Mistral、Qwen、DeepSeek 等)按四个维度评分:基于参数量与量化的质量、针对你所用后端的 token/s 速度估算、内存匹配度、上下文窗口支持,并给出 Perfect/Good/Marginal/Too Tight 标签。它会自动选择最佳量化级别逐步降档直到能跑,开箱支持 Ollama、llama.cpp、MLX 和 LM Studio。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →