Hugging Face 三大消融团队放量大批 Qwen 无审查模型,按显存对号入座
udmrzn · x · 2026-11-12
网友整理了 Hugging Face 上 Huihui、HauhauCS、DavidAU 等团队新放出的多款 Qwen 家族「消融/无审查」模型,覆盖 8GB 到 24GB 显存场景,并保留视觉与 MTP 多 Token 预测能力:
- Huihui Qwen3.8 27B Abliterated:号称本地综合最强破甲款之一,保留视觉。16GB 显存建议 UD-IQ4XS(约 14.4GB),24GB 可上 Q4KM/Q5;支持 ollama run huihuiai/Qwen3.8-abliterated 直接启动。
- HauhauCS Qwen3.8 27B Uncensored Aggressive:更激进的深度破甲路线,几乎零拒答,带 MTP 加速与视觉。16GB 选 IQ4XS(约 15.7GB),24GB 上 Q4/Q5。
- Huihui Qwen3.6 35B-A3B Abliterated MTP:MoE 架构,每次推理仅激活约 3B 参数,速度快。12–16GB 显存跑 IQ3/IQ4 并做专家卸载(建议 32GB+ 内存),24GB 可全塞显存跑 Q4。
- HauhauCS Qwen3.6 35B-A3B Aggressive:激进破甲 + 高吞吐版本。
帖中附各模型 Hugging Face 仓库链接与分档量化选择建议,适合本地部署用户按显存直接抄作业。
「Infra」频道最新
- Kaspersky 披露 Black Owl APT 渗透软件商基础设施图谋供应链攻击 — cyb3rops · 2026-11-12
- Qwen3-8B 推测解码草稿模型横评：WhiFlash 思考模式下 token 命中领先 — maxsloef · 2026-11-12
- AMD 展示用 Ryzen AI Max 迷你主机本地跑 MolmoAct2 机器人策略 — DJiafei · 2026-11-12
- 观点：AI 基础设施正演变为「编码运行时」，智能单元将超越 token — prateekj · 2026-11-12
- 开发者开源 PrefixRelay:让 Cursor 稳定复用 KV 缓存跑本地模型 — jjusko20 · 2026-11-12
- Rust 推理引擎 Kinetic 实测 0.13 秒答 2.2 万 token 文档,比 llama.cpp 快 84 倍 — jasonkneen · 2026-11-12