llama.cpp 团队做菜单栏应用 Llama:Mac 上一键跑开源模型
ggerganov · x · 2026-10-27
开发者 erusev 展示了与 llama.cpp 团队合作打造的小工具 Llama:一个 Mac 菜单栏应用,可在本地直接运行开源模型,35 秒演示视频展示了从安装到对话的全过程。llama.cpp 作者 Georgi Ggerganov 转发了这条推文,暗示项目获得官方团队背书,是本地部署开源模型的轻量化选择。
「Infra」频道最新
- 推理初创 General Compute 获 1 亿美元 A 轮融资,押注快速推理需求 — _akhaliq · 2026-10-28
- Evercore 预计 2027 年初微软自研 Maia 芯片仅占其 AI 芯片支出约 10% — Beth_Kindig · 2026-10-28
- YC F26 项目 Applied Kin 用 AI 原生模式造变压器,7 周即报价 — ycombinator · 2026-10-28
- 轨道算力公司 Cowboy 公布 1MW 卫星设计:5 机架 GPU、6 条 1.2Tb/s 激光链路 — BenBajarin · 2026-10-28
- 开源网关 Zilla 加入 LLM 支持:难点是保住原生 API 特性而非路由 — jkriket · 2026-10-28
- Together 提出 MIGHT 开源 AI 技术栈:模型/推理/路由/Harness/工具五层可自由替换 — togethercompute · 2026-10-28