LFM3-1.7B 纯浏览器跑编码 Agent,M4 Max 上超 300 tok/s

victormustar · x · 2026-10-28

开发者演示了在浏览器本地运行自己的编码 Agent(Pi)的方案:模型为 Liquid AI 的 LFM3-1.7B,在 M4 Max 上通过自定义 WebGPU kernel 与 4-bit GGUF 权重实现超过 300 tok/s 的推理速度。

整套方案完全本地运行,不向服务器发送任何数据,聊天内容保持私密。作者在 Hugging Face 上放了可直接体验的 Demo,读者可以自己上手尝试。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →