2.7-bit量化把Llama 3.2 Vision 11B压到3.7GB上手机

Luka Ribar · hf · 2026-08-24

Llama-Mobile 提出一套面向移动端部署的视觉语言模型量化框架。

• 采用 2.7-bit 量化格式，并用模型自生成数据做训练，无需人工标注。
• 效果：把 Llama 3.2 11B Vision Instruct 压缩到 3.7 GB，可装进手机，同时视觉问答性能基本保持。

原文链接 →

「Infra」频道最新

• 新一代 GraalVM 亮相:免构建启动快 4 倍,内存省 50% — RealGeneKim · 2026-10-15
• 微软深度优化 Windows 迎接 Nvidia RTX Spark：两步装好本地 AI agent — tomwarren · 2026-10-15
• 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
• 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
• SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
• ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15

更多「Infra」频道 AI 资讯 →