AnythingLLM 弃用 Ollama 换 Lemonade,体积降至 137MB

本地 LLM 应用 AnythingLLM 宣布自 Desktop v1.18.0 起将内置运行时从 Ollama 迁移至 AMD 开源项目 Lemonade(基于 llama.cpp),并同步推出嵌入式 SDK。官方对比数据显示,引擎体积从约 1.8GB 大幅降至 137MB,推理速度最快可提升 2 倍,显著改善桌面端的安装体验与本地推理性能。

2026-10-14 ~ 2026-10-14 · 2 条相关