llama.cpp 团队联合 Hugging Face 推出桌面应用 Llama,1MB 本地跑开源模型
mervenoyann · x · 2026-10-24
llama.cpp 团队与 Hugging Face 发布免费开源桌面应用 Llama:Mac 菜单栏 / Windows 托盘小应用,1MB 下载、可离线运行最新开源模型。
核心功能三件套:
- 本地聊天:浏览器里像 ChatGPT 一样对话,点击 Open chat 即用,无需配置
- 本地 API:在 localhost 提供 OpenAI 兼容 API,编码 agent、编辑器、脚本可直接接入
- 一键装模型:自动推荐适合本机的模型并代选参数,截图显示已装 Qwen3.8 27B、gpt-oss 20B、gemma-4 E4B 等
相当于把「ChatGPT + OpenAI API」整套体验搬到自己电脑上,模型自选、数据不出本地。Linux 提供 curl 一行安装,也支持 Brew/Winget 或源码编译。
所属事件:llama.cpp 联手 Hugging Face 推出 1MB 本地桌面应用 Llama(2 条相关)→
「Infra」频道最新
- Baseten 推 Project Beacon，把安全工具内置进开源模型推理层 — baseten · 2026-10-24
- 开源 RL 框架 Miles v0.1.3:首次权重同步 99.5 秒降至 3.9 秒 — hsu_byron · 2026-10-24
- Ziang Li 展示训练实绩:Tensor Core 利用率超 98% — gharik · 2026-10-24
- 砸数百万做 AI 应用分文未赚,旧 GPU 服务器却升值回本 — stephen280up · 2026-10-24
- Polymarket 开盘：明年年底前 AI 数据中心上天，概率 24% — Polymarket · 2026-10-24
- Polymarket 玩梗：谷歌为建 AI 数据中心砍林，狼群进 Finnish 村庄 — Polymarket · 2026-10-24