Google 开源 ML Drift：跨平台端侧 GPU 推理引擎，Apache 2.0 协议
pmttyji · reddit · 2026-10-09
Google AI Edge 团队宣布开源端侧 GPU 计算引擎 ML Drift，采用 Apache 2.0 协议，专为设备端 AI/ML 推理打造。
要点：
- 抽象了 OpenGL ES、OpenCL、Metal、WebGPU 等各平台底层 GPU API 差异，实现跨平台高性能推理
- 支持 UI/视频特效到生成式 AI 等实时交互式 ML 体验
- 是 LiteRT（原 TensorFlow Lite）的核心 GPU 加速引擎，也可作为独立库用于自定义图形与推理运行时
代码已发布在 GitHub 的 google-ai-edge/ml-drift 仓库。
所属事件:谷歌开源端侧 GPU 推理引擎 ML Drift(2 条相关)→
「Infra」频道最新
- 网友自组混合部署 DeepSeek:GPU+CPU 专家+SSD,TTFT 从75秒降到8.9秒 — HankYeomans · 2026-10-10
- vLLM 线程(4/5):用 locality domain 优化 MoE,decode 提速 1.2 倍 — vllm_project · 2026-10-10
- vLLM 适配 NVIDIA Vera Rubin,MiniMax M3 吞吐达 GB200 的 7.8 倍 — vllm_project · 2026-10-10
- AMD 联手 ai& 办东京黑客松：4.5 小时用 Kimi、GLM、Qwen、MiniMax 搭建 — DavidBennett__ · 2026-10-10
- 芝加哥市中心将建 AI 数据中心,空置写字楼迎来新用途 — willcb · 2026-10-10
- 开源 sparkDash 2.0:私有化 GPU token 工厂的产能看板 — aigclink · 2026-10-10