专题 · FULL STORY

Qwen3.8-27B:开源、实测与量化

阿里正式开源多模态模型 Qwen3.8-27B,实测性能获赞,随后无审查版刷屏 Hugging Face,INT4 等量化版本相继推出,进一步降低部署门槛。

2026-08-15 ~ 2026-08-17 · 4 集 · 16 条

第 1 集 · Qwen3.8-27B 开源实测:本地性能逼近 Opus(2026-08-15,6 条)

阿里巴巴开源的 Qwen3.8-27B 在社区实测中收获密集好评。@WorldofAI 在单张 RTX 4090 上实测后认为其编码、Agent 与视觉能力已逼近 Claude Opus;Simon Willison 评测称这是许久以来玩得最开心的本地模型,但指出默认过度思考、资源消耗偏高。多位用户将其称为当前最佳本地模型,并带动新一轮自托管部署热情。

已确认

  • 模型以 Apache 2.0 协议开源,具备视觉能力;官方基准表现强劲,部分方面超越此前闭源版本 Qwen 3.7-Plus
  • @WorldofAI 通过 Unsloth 4-bit 量化在 RTX 4090 上本地运行,评测显示其在现实基准、长程编码、Agent 任务和视觉能力上表现出色,认为性能逼近 Claude Opus,是接近 Opus 的最佳开源模型
  • Simon Willison 发布评测:模型优秀但默认过度思考、极耗资源;他在 Mastodon 表示这是很久以来玩本地模型最开心的一次
  • 用户 gnukeith 称其为目前最好的本地模型、也是他最喜欢的模型,让他对 AI 的未来充满希望
  • 开发者 @greatscottdev 展示该模型在单次生成任务中给出了他自托管过的所有模型中最好的输出;转发者 Greg Barbosa 表示因此更想动手搭建家用本地 LLM 环境

为什么重要

  • 单张消费级显卡加 4-bit 量化即可运行逼近 Opus 水平的模型,显著拉低了高端 AI 能力的使用门槛
  • 开源版本在部分基准上超越自家此前的闭源版本 Qwen 3.7-Plus,显示开源路线对闭源模型的追赶甚至局部反超
  • 多位独立评测者与用户的正面结论相互印证,正在转化为实际的本地部署与自托管行动;默认过度思考的资源开销是当前被指出的主要短板

第 2 集 · 阿里开源Qwen3.8-27B多模态模型,单卡本地运行(2026-08-15,2 条)

阿里正式开源Qwen3.8-27B,这是27B参数的原生多模态模型,支持26.2万上下文,采用Apache 2.0许可,整体性能超越Qwen3.7-Plus,真实编码与办公工作流表现优异,编程逼近Claude Opus,可单卡本地部署。

第 3 集 · Qwen3.8-27B 无审查版刷屏 HF 趋势榜(2026-08-15,6 条)

8月15日至17日,多个移除安全审查的 Qwen3.8-27B 衍生模型密集登上 Hugging Face 趋势榜:JonathanColetti 的 Uncensored-GGUF 版、Blackfrost-AI 的 ABLITERATED-GGUF 版与 0bserverx 报道的 Heretic-Abliterated-Uncensored 版相继走红,Unsloth 的 GGUF 量化版不到 24 小时获 1000 次点赞、总下载量达 100 万。本轮刷屏由去审查(abliterated)与低门槛量化部署两个因素共同驱动,值得持续关注。

已确认

  • 三个主要版本:Qwen3.8-27B-Uncensored-GGUF(JonathanColetti,08-15,支持 llama.cpp 推理)、Qwen3.8-27B-ABLITERATED-GGUF(Blackfrost-AI,08-16,270 亿参数密集模型,其称支持图像-文本到文本的多模态能力)、Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF(0bserverx 报道,08-17 上线)。
  • 共同做法:通过 abliteration 移除原模型安全过滤与拒答机制,提供无限制文本生成;GGUF 量化格式为主流发布形态。
  • Unsloth 的 Qwen3.8-27B GGUF 量化版不到 24 小时获 1000 次点赞,位列 HF 趋势榜第 3,总下载量 100 万,可在 17GB RAM/VRAM 配置下运行(据 danielhanchen 转述)。
  • 用户反馈:Frizzy-MacDrizzle 称 Ablit 模型在其分析服务中拒答率较低、效果良好。

尚未确认

  • 0bserverx 指出 Heretic 版标签误标为 3.5,其判断实际基于 Qwen 3.8;各版本与官方基座的对应关系以发布页为准。
  • 多模态能力仅见 Blackfrost-AI 单方描述,其他帖子未佐证。

为什么重要

  • 去审查模型持续霸榜,反映社区对本地部署、无限制生成模型的旺盛需求。
  • 17GB RAM/VRAM 的运行门槛意味着消费级硬件即可跑 27B 级模型,Unsloth、GGUF、llama.cpp 等量化生态是这波扩散的关键推手。

第 4 集 · Qwen3.8-27B推出INT4与MXFP4量化版本(2026-08-16,2 条)

Qwen3.8-27B模型现已在Hugging Face上线INT4和MXFP4量化版本,其中INT4采用AutoRound量化,体积约18GB,且支持正常工作的MTP推测解码。这些压缩版本旨在降低部署成本并提升推理效率。