Qwen3.8-9B 蒸馏模型推出 GGUF 版，llama.cpp 本地量化可跑
empero-ai · hf · 2026-08-19
empero-ai 随后放出 Qwen3.8-9B-Distill-GGUF 量化版，支持 llama.cpp 本地部署，标签中还出现了 gated-deltanet 架构字样。配合蒸馏与推理标签，适合本地端侧运行场景，同样登上 HF 热榜。
所属事件:Qwen3.8-9B 蒸馏模型推出 GGUF 版可本地运行(2 条相关)→
「模型」频道最新
- Gemini 4 Argon 上线 AssemblyAI 网关，语音基准 99.5 分居 50+ 模型之首 — AssemblyAI · 2026-10-16
- Meta 开放权重模型 Muse Spark Open 上架 Ollama：1M 上下文、可接 Claude Code — ollama · 2026-10-16
- 网友晒「Opus 5.5」拼贴作品:模型开始有品味,护城河不存在 — yuwen_lu_ · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16
- vLLM 首日支持 Meta 816B 开放权重模型 Muse Spark Open — woosuk_k · 2026-10-16