LFM3-1.7B 纯浏览器跑编码 Agent,M4 Max 上超 300 tok/s
victormustar · x · 2026-10-28
开发者演示了在浏览器本地运行自己的编码 Agent(Pi)的方案:模型为 Liquid AI 的 LFM3-1.7B,在 M4 Max 上通过自定义 WebGPU kernel 与 4-bit GGUF 权重实现超过 300 tok/s 的推理速度。
整套方案完全本地运行,不向服务器发送任何数据,聊天内容保持私密。作者在 Hugging Face 上放了可直接体验的 Demo,读者可以自己上手尝试。
「编程与Agent」频道最新
- Petabyte 推闲置休眠式 Agent 托管:事件触发唤醒,不为空转付费 — Petabyte-Cloud · 2026-10-28
- 让 Claude 自建 Obsidian 插件,在 iPhone 上审阅视频编辑 — evielync · 2026-10-28
- 开发者把五大模型编成一个多智能体系统,手机无线操控桌面电脑 — RileyRalmuto · 2026-10-28
- 一张立绘生成完整 VTuber 模型,开发者用 Claude+Codex 跑通制作套件 — bdsqlsz · 2026-10-28
- Ahrefs 播客:内容总监 Ryan Law 一天 vibe code 出一个完整网站 — 5le · 2026-10-28
- 开发者用 if/for/while 一句话讲透微软四款 Copilot 的本质区别 — pswider · 2026-10-28