llama.cpp 团队推本地 AI 应用 Llama:数据不出本机,支持 LFM3-Omni
mervenoyann · x · 2026-11-16
llama.cpp 团队与 Hugging Face 推出桌面应用 Llama(Mac 菜单栏/Windows 托盘程序),在本地运行最新开源模型,主打隐私与速度——文档处理全程不出本机。
产品要点:
- 免费开源,下载仅 1MB,支持离线;提供本地 OpenAI 兼容 API,编码 agent、编辑器和脚本可直接接入
- 内置模型目录,一键安装适配本机的模型(如 Qwen、GPT-OSS、Gemma 等)
- 支持 Mac(含 Apple Silicon)、Windows,Linux 提供命令行安装
- 本次宣传搭配 Liquid AI 的 LFM3-Omni 模型
「Infra」频道最新
- AI 股连续第二日下跌:Nebius 跌近 9%、CoreWeave 跌 6% — GaryMarcus · 2026-11-16
- 百度 Q3:AI 云基建收入涨 94%,AI 业务占核心营收 53% — Baidu_Inc · 2026-11-16
- RTX Spark 笔记本跑 Llama v1 应用,LFM Omni 生成达 100 tok/s — LysandreJik · 2026-11-16
- 阿里腾讯字节都在海外建数据中心,但并非每家都买昇腾芯片 — teortaxesTex · 2026-11-16
- Sebastian Raschka 呼吁:开源 LLM 生态缺一个「积木式」组件 API — rasbt · 2026-11-16
- 2×5060 Ti 16G 跑 Qwen3.8 Flash 达 70 tok/s,再加两张值不值 — Pear_Virtual · 2026-11-16