AnythingLLM 弃用 Ollama 转向 Lemonade:引擎体积从 1.8GB 降到 137MB
jfowers_amd · reddit · 2026-10-14
本地 LLM 应用 AnythingLLM 宣布将运行时引擎从 Ollama 迁移到 AMD 的 Lemonade(基于 llama.cpp),并推出嵌入式 SDK。官方对比显示:引擎体积从 1.8GB 缩至 137MB,同时支持 CPU、GPU 与 NPU,兼容任意 GGUF 模型。这次迁移显示 llama.cpp 生态正在成为端侧推理的公共底座,AMD 也借 Lemonade 加码本地 AI 部署。
所属事件:AnythingLLM 弃用 Ollama 换 Lemonade，体积降至 137MB(2 条相关)→
「Infra」频道最新
- 马斯克力挺大摩报告：SpaceX 分布式推理云是被忽视的增长引擎 — elonmusk · 2026-10-14
- OCP 全球峰会面板:AMD Intel 谷歌微软共话 AI 时代扩展 — firstadopter · 2026-10-14
- 马斯克:建超算数据中心筹资易,落地极难,SpaceX 也觉吃力 — elonmusk · 2026-10-14
- 微软 Maia 300 芯片实板曝光:单托盘集成 4 颗 XPU — BenBajarin · 2026-10-14
- Ayar Labs 携手 wiwynn 展出可工作 CPO 样机，GUC 测试 XPU 实拍 — BenBajarin · 2026-10-14
- Agent 写代码时代：token 花销已达工资的 1-2 倍 — nlarusstone · 2026-10-14