RTX Spark 笔记本跑 Llama v1 应用,LFM Omni 生成达 100 tok/s
LysandreJik · x · 2026-11-16
- Lysandre(Hugging Face Transformers 核心维护者)演示在 RTX Spark 笔记本上运行 llama.cpp 团队新发布的 Windows 版 Llama 应用(v1),配合 Liquid AI 的 LFM Omni 模型,生成速度可达 100 token/s,且未做额外加速优化,直呼体验像魔法。
- 应用基于 llama.cpp,MIT 协议开源,目前 GitHub 已获 446 star,支持量化选择、winget 打包安装等本地部署功能。
「Infra」频道最新
- 美国 BIS 新规封堵海外数据中心远程访问先进 AI 芯片 — pstAsiatech · 2026-11-16
- 参议员 Cantwell 致函抨击商务部 AI 芯片出口管制失职 — ShakeelHashim · 2026-11-16
- AI 股连续第二日下跌:Nebius 跌近 9%、CoreWeave 跌 6% — GaryMarcus · 2026-11-16
- 百度 Q3:AI 云基建收入涨 94%,AI 业务占核心营收 53% — Baidu_Inc · 2026-11-16
- llama.cpp 团队推本地 AI 应用 Llama:数据不出本机,支持 LFM3-Omni — mervenoyann · 2026-11-16
- 阿里腾讯字节都在海外建数据中心,但并非每家都买昇腾芯片 — teortaxesTex · 2026-11-16