淘宝 MNN-Pocket-0.3B 登上 Hugging Face 热榜:Qwen3 端侧 INT4 小模型
taobao-mnn · hf · 2026-11-10
淘宝 MNN 团队的端侧模型 MNN-Pocket-0.3B 登上 Hugging Face 趋势榜(文本生成类)。
基于 Qwen3 蒸馏的 0.3B 参数小模型,采用 INT4 量化,面向手机/边缘设备本地部署,以 safetensors 格式发布,支持 transformers 与 MNN 生态。
「Infra」频道最新
- 被禁英伟达芯片如何流入中国:偷卡车、假文件、吹风机换贴纸 — Caneki97 · 2026-11-10
- 腾讯选择 Bittensor 子网 Chutes 作为新旗舰模型 Hy4 推理伙伴 — markjeffrey · 2026-11-10
- 3080 Ti 降功耗 42% 跑 Qwen 3.5 9B，速度几乎不掉 — Asthenia5 · 2026-11-10
- PyTorch 推出 CUDA Tile:Python DSL 写 tile 级内核自动吃满 Tensor Core — PyTorch · 2026-11-10
- 让 Agent 花 2 小时迁移到 Dokploy,开发者告别 Zeabur — yihui_indie · 2026-11-10
- 128GB 内存实测：Basalt 比 Strata 快且稳，本地跑 Qwen3.8 终于能干活 — x_MASE_x · 2026-11-10