开源工具 llmfit 扫描硬件并按质量/速度/适配/上下文为本地模型打分
thisdudelikesAI · x · 2026-11-16
llmfit 是一个开源命令行工具,先扫描本机 RAM、CPU、GPU 和 VRAM,再对数百个模型(覆盖 Meta、Mistral、Qwen、DeepSeek 等)按四个维度评分:基于参数量与量化的质量、针对你所用后端的 token/s 速度估算、内存匹配度、上下文窗口支持,并给出 Perfect/Good/Marginal/Too Tight 标签。它会自动选择最佳量化级别逐步降档直到能跑,开箱支持 Ollama、llama.cpp、MLX 和 LM Studio。
「Infra」频道最新
- 传 SemiAnalysis 将 2028 年 AI 加速器资本开支预测下调 28% — firstadopter · 2026-11-16
- 华盛顿大学 Mobile AI Factory:自动为你的手机定制专用小型模型 — UW · 2026-11-16
- Supermicro GB300 在华叫价约 2400 万美元,出口管制形同虚设 — teortaxesTex · 2026-11-16
- 印尼突查 Megaspeed 子公司:机架全空,Nvidia 疑经印尼流入中国 — bytebot · 2026-11-16
- Arena 推出 99 美元芯片艺术书,384 页记录半导体五十年 — RobertTLange · 2026-11-16
- CBS 报道乌兰察布 AI 数据中心建设潮,规模堪比小城市 — armano · 2026-11-16