全 Rust 本地 LLM 套件 LexiSuite 发布,部分场景超越 llama.cpp

W61k3r · reddit · 2026-11-05

开发者 W61k3r 发布了纯 Rust、全部原创代码的本地 LLM 套件 LexiSuite,包含 Lexipanel 面板、OS、引擎与内核镜像,功能覆盖 engram 卸载、优化、拟合、诊断、训练、基准测试、模型裁剪、LoRA 等大量特性,作者称部分场景已超越 llama.cpp。

使用方式:将 LexiSuite 装入 U 盘,在支持的硬件上启动并接入局域网,浏览器打开 LexiPanel,即可从 Hugging Face 下载 Qwen、Gemma 等模型并运行推理。作者正在征集测试者反馈问题,报告时需注明所用模型与设置。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →