Liquid AI d1-2B 决策模型跑上手机 GPU,单次前向答四问
alexcovo_eth · x · 2026-11-09
Liquid AI 的 d1-2B 决策模型(基于 LFM3-VL-2B)已被转换为 LiteRT 格式,可在移动端运行。实测在 Galaxy S26 GPU 上,对一张照片一次前向传播内同时回答四个问题(车轮和车鞍上的框数量、有几辆自行车、画面里是否有车),应用计时 1983 毫秒,视频为实时速度。
d1-2B 是一个"决策模型":接收文本、JSON 或图片作为状态,对其提出任意多个命名问题,一次前向传播直接返回带概率的typed答案,无需逐 token 生成——支持 yes/no、选项、评分、文本/数字/日期抽取、区间估计、目标框检测等多种输出类型。
Hugging Face 上的 LiteRT 转换版提供 7 种序列长度(1286144 tokens)的决策图文件,另有桌面端 Python host(无需 PyTorch):在 Apple M4 Max + Metal float32 下,对支持工单单个提问中位延迟仅 40.9ms,一次调用问三个问题也只要 41.3ms。
「Infra」频道最新
- Atomarine 获 1900 万美元种子轮,造核动力海上浮式数据中心 — ycombinator · 2026-11-09
- OpenAI 自曝 Pando:为 Codex 级规模开发打造的 Git 兼容后端 — rhiever · 2026-11-09
- 数据中心遭遇抵制后逻辑反转：阿根廷巴塔哥尼亚靠搁浅能源抢算力 — matt_slotnick · 2026-11-09
- Cathie Wood 反驳数据中心恐慌论：电价担忧真实但其余被夸大 — CathieDWood · 2026-11-09
- 按内存选模型:8GB 跑 Qwen3.5-4B,32GB 跑 35B,AI 订阅可省 — alex_verem · 2026-11-09
- 美参议院两党法案或下周表决,加速 AI 数据中心建设 — Polymarket · 2026-11-09