开源 LokalBot:Gemma 4 E2B 本地补全,50ms/词还能读会议记录
stevyhacker · reddit · 2026-10-13
作者开源了 LokalBot,一款 Cotypist/Granola 混合式的桌面应用:用本地 Gemma 4 E2B base(Q6K,进程内 llama.cpp)做输入自动补全,在 M4 Max 上约 50ms/建议;还能读取自己的会议记录和屏幕内容为补全与听写提供上下文。
- 与 Cotypist(专有,每天 100 词免费)和 Cotabby(AGPL)对比:LokalBot GPLv3 免费,独有"会议记录感知"——草稿提到具体事物时从私人笔记中提取最多两条事实作上下文,且不读取隐私窗口
- 实测:782 个下一词检查点上,与 Cotabby 用同一 Gemma 权重对比,LokalBot 命中 32.7% vs Cotabby 30.7%(+2.0 点,95% 区间 04 点)
- 作者称 Gemma 4 E2B 6bit 是 MacBook 上质量与延迟的最佳平衡,征询更优小模型
「应用」频道最新
- Lowvyn 推出 MCP 连接器:让 AI 助手跨加拿大零售商比价追踪 CAD 价格 — modelcontextprotocol · 2026-10-13
- 开发者把 ChatGPT Realtime 语音模型装进 Apple Watch 实时对话 — halo-w3fsd32 · 2026-10-13
- 6 卷 7389 图 3620 题:经典电路教材上线 AI 导师版 — burkov · 2026-10-13
- The Drive AI 上线：一句话整理上千文件、跨库问答可撤销 — Scobleizer · 2026-10-13
- 学生把 ChatGPT 当私人家教，成绩冲进班级前列 — RiceCookerPEPSI · 2026-10-13
- 一个主会话管所有:ChatGPT与Claude可当个人AI中控 — koltregaskes · 2026-10-13