Hugging Face 推出 llama.cpp v1 引擎:手机到浏览器全平台跑模型
LinkedInNews · reddit · 2026-11-14
Hugging Face 宣布新的本地推理引擎 llama.cpp v1,主打「跑所有模型、跑在你已有的硬件上」:支持 Dense LLM、MoE、混合与 ESM、Vision & OCR、Embeddings、Audio & TTS、决策模型、推测解码等多种模型类型,可在手机、笔记本、台式机、工作站、服务器乃至浏览器(无需 JS、wasm)上运行,覆盖 Metal、Apple Silicon、OpenCL、ROCm、Vulkan、WebGPU 等后端。Clement Delangue 称「我们不靠游说取胜」。
「Infra」频道最新
- 科技债收益率创 2009 年来新高,AI 借贷潮显疲态 — SumitGup · 2026-11-14
- Ollada:扩散语言模型版 Ollama,收录 1.7B–8B 六款模型 — OpenSourceRulesz · 2026-11-14
- Caltech 数学马拉松获共享算力网格支持,面向大院外研究者 — _sathvikr · 2026-11-14
- AWS 官方教程:零改造实现 Bedrock 上 Claude Code 等工具的按人成本核算 — AWS ML Blog · 2026-11-14
- 北达科他小镇公投3:1否决数据中心限制令,市长逐一驳斥担忧 — kevinnbass · 2026-11-14
- 开源项目宣称 RTX 4090 跑 Qwen3.6 提速 6-11 倍,附完整仓库 — AI4Science · 2026-11-14