阿里开源MNN推理引擎：赋能端侧大模型
tom_doerr · x · 2026-08-14
阿里巴巴开源的 MNN 是一款轻量级、高性能的深度学习推理引擎，已在内部业务中历经实战考验。该项目旨在为移动和嵌入式设备提供高效支持，能够流畅运行大型语言模型（LLM）并驱动边缘 AI 应用。
「Infra」频道最新
- 硬核频道解析 SK 海力士：支撑 AI 算力的 HBM 内存之王 — PTrubey · 2026-08-14
- AI算力供需错配严重，头部厂商应推实时动态定价API — tszzl · 2026-08-14
- Anthropic 500亿美元算力融资拆解：资金暂非AI扩张瓶颈 — SamuelAlbanie · 2026-08-14
- DeepSeek V4 Pro 0813推理工程实践：1.7T参数MIT协议开源 — philipkiely · 2026-08-14
- NVIDIA 驱动更新暗开 ECC，致消费级 GPU 损失 1.5GB 显存 — MastMaithun · 2026-08-14
- AMD 赠送 Ryzen AI Halo 专为 LLM 优化 — JosephJacks_ · 2026-08-14