谷歌开源端侧 GPU 推理引擎 ML Drift
Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift,它是 LiteRT 内部的 GPU 计算引擎,也可作为独立 C++ 库使用,专为设备端 AI/ML 推理打造,提供硬件抽象层,一套代码即可支持四大 GPU 后端,已让 YouTube Shorts 帧延迟降低 40%。
2026-10-09 ~ 2026-10-09 · 2 条相关
- 谷歌开源ML Drift:一套代码搞定四大GPU后端,YouTube Shorts帧延迟降40% — lmoroney · 2026-10-09
- Google 开源 ML Drift:跨平台端侧 GPU 推理引擎,Apache 2.0 协议 — pmttyji · 2026-10-09