llama.cpp 团队推出 Llama 桌面应用,1MB 便可在本地跑开源模型
mervenoyann · x · 2026-10-05
由 llama.cpp 团队与 Hugging Face 推出的免费开源应用 Llama（llama.app）正式亮相，定位是「你电脑上的 OpenAI」：菜单栏常驻应用 + 兼容 OpenAI API 的本地接口。
- 核心功能：在 Mac/Windows 上一键下载并运行最新开源模型（如 Qwen、gpt-oss、gemma 系列），自动匹配适合本机的模型与设置
- 两种用法：浏览器内聊天（类似 ChatGPT），或通过本地 OpenAI 兼容 API 供编码 agent、编辑器、脚本调用
- 轻量：下载仅 1MB，完全离线可用，支持 brew/winget 安装或源码编译，GitHub 已有 1.5K star
「Infra」频道最新
- 马斯克确认台积电正洽谈合作，为其德州 Terafab 建芯片 — Polymarket · 2026-10-06
- 12GB显卡本地跑MiniMax H3做电影预告片：0.6MP+4:3是甜点 — vortis23 · 2026-10-06
- AI数据中心扩张撞上电网天花板，多个规划项目被迫撤回 — DavidLinthicum · 2026-10-05
- 麒麟 9050 传用 1.5 微米 HBI 封装，分析师称量产才是真正难关 — teortaxesTex · 2026-10-05
- PGlite 周下载量突破 2000 万，浏览器内 Postgres 增长迅猛 — matei_zaharia · 2026-10-05
- 本科生魔改 GPTQ:4-bit Qwen2.5 困惑度优于官方 AWQ — Status-Adeptness8123 · 2026-10-05