llama.cpp 官方门户 llama.app 上线：无代码一键本地跑 Gemma 4 等模型
mervenoyann · x · 2026-09-10
llama.cpp（GitHub 12.4 万 star）推出官方门户 llama.app，把 llama.cpp 包装成简洁 UI：无需命令行和配置文件，一键下载模型、清晰的内存占用估算，支持 Gemma 4、Qwen 3.8、GPT-OSS、Gemma 3 等模型。演示中 Gemma 4 可解析收据表格、流式输出推理日志、并通过 MCP 连接网页搜索。工作流：llama serve 启动本地服务，安装 pi-llama 插件后即可用 Pi 编码 agent 自动发现本地模型，全程无需 API key、数据不出本机。同一二进制覆盖 Apple Silicon、RTX 5090、H100、Jetson 到 DGX Spark 等各硬件。
所属事件:llama.cpp 上线官方门户 llama.app，本地一键跑大模型(2 条相关)→
「Infra」频道最新
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验：多个实验共享同一批 GPU，免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化，要么 GPU 商品化：算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27