全 Rust 本地 LLM 套件 LexiSuite 发布,部分场景超越 llama.cpp
W61k3r · reddit · 2026-11-05
开发者 W61k3r 发布了纯 Rust、全部原创代码的本地 LLM 套件 LexiSuite,包含 Lexipanel 面板、OS、引擎与内核镜像,功能覆盖 engram 卸载、优化、拟合、诊断、训练、基准测试、模型裁剪、LoRA 等大量特性,作者称部分场景已超越 llama.cpp。
使用方式:将 LexiSuite 装入 U 盘,在支持的硬件上启动并接入局域网,浏览器打开 LexiPanel,即可从 Hugging Face 下载 Qwen、Gemma 等模型并运行推理。作者正在征集测试者反馈问题,报告时需注明所用模型与设置。
「Infra」频道最新
- Baseten Router:省 72% 成本,通过率仅降 0.8 个百分点 — baseten · 2026-11-05
- 截图显示 GPT-6.2 Astra 与 Sol 已部署上 Google Cloud — lyraxana · 2026-11-05
- SkyDiscover 自动合成推理引擎,Mac 上快 2.7 倍 — CShorten30 · 2026-11-05
- 前高管创办 AI 基础设施公司 Mosaic,主打破除单一面板锁定 — matt_slotnick · 2026-11-05
- GLM 5.3 Flash 已可在双卡 RTX PRO 6000 上本地运行 — HankYeomans · 2026-11-05
- 曝前 Google TPU 团队成员创办新 AI 芯片公司 — nmasc_ · 2026-11-05