LexiPanel 开源:llama.cpp 推理服务器的一站式 Web 管理面板
W61k3r · reddit · 2026-09-20
开发者开源 LexiPanel,一个面向 llama.cpp 等推理服务器的 Web 管理面板,最初为测试 Qwen3.8-27B 而写。功能包括:
- 实时监控推理服务器状态、GPU 利用率与显存
- 模型加载/卸载与多模型支持
- 配置管理(context size、batch size、线程数等)与优化配置档
- Web 终端访问与实例管理
安装运行只需执行 install.sh 与 start.sh,面板跑在 8090 端口,依赖 Python 3.8+、llama.cpp、Caddy(TLS)与 ttyd,MIT 协议。
「Infra」频道最新
- 开源工具 jevcache:模型决策结果缓存,重复调用零成本零延迟 — JiliJeanlouis · 2026-09-20
- 大脑仅 20 瓦,类脑计算能否让 AI 摆脱耗电困局? — burny_tech · 2026-09-20
- 三值 2-bit 模型 Bonsai-2-27B GGUF 版登 Hugging Face 热门 — dealignai · 2026-09-20
- Pedro Domingos 断言:ASML 是全球 AI 供应链的单点故障 — pmddomingos · 2026-09-20
- 端侧推理项目 Cactus Needle 登上 Hugging Face 热门榜 — Cactus-Compute · 2026-09-20
- 单张 RTX 5090 跑 Qwen3.8 Flash Next:靠 expert caching 达 50 t/s — dir3ctly · 2026-09-20