d1-2B 本地手势识别:每帧 70ms 零 token 生成,M5 Max 跑 14 决策/秒
helloiamleonie · x · 2026-11-18
开发者 ivanfioravanti 开源了 mlx-d1-gestures 项目:用 Liquid AI 的 d1-2B「决策模型」在 Apple Silicon 上把摄像头画面实时转成手势与表情识别。
- 零 token 生成:每帧向模型发四个结构化问题(什么手势/什么表情/手在哪/脸在哪),一次前向传播(prefill)全部回答,约 70ms、600 输入 token,在 M5 Max 上约每秒 14 次决策,完全本地运行、不上传任何画面
- 新增 iOS/iPad 应用:iPhone 18 Pro 上 ANE 约 180ms、GPU 约 270ms;iPad Pro M5 约 230ms
- 作者还修复了此前预编译问题缓存导致需重新下载模型的 bug
这个「纯 prefill 决策、不生成文本」的用法是把聊天 VLM 改造成低延迟分类器的有趣示范,repo 已更新可复现。
所属事件:开发者用Liquid AI d1-2B在Mac本地实现零token手势识别(3 条相关)→
「Infra」频道最新
- Meta 重组 MTIA 芯片团队招兵:编译器、内核、runtime 全线招人 — asdf1234_0 · 2026-11-18
- 多方实锤指向中国 AI 实验室使用疑似走私 Blackwell GPU,黄仁勋遭审视 — Difficult-Limit-7551 · 2026-11-18
- 首届 SGLang 峰会 2000 人参会:发布 v1.0,九巨头成立联盟 — aliscodes · 2026-11-18
- 开发者自研优化器 ApexW:显存占用约为 bitsandbytes 一半,损失低于 AdamW — omendUUde · 2026-11-18
- TokScale 榜单:第一名单人烧掉 4.6T tokens,估算成本 243 万美元 — olcan · 2026-11-18
- MOSS-Image FP16 修复版发布,老图灵卡也能提速跑 — mkrGG · 2026-11-18