单卡跑Qwen3.6-27B微调版:本地多模态实测惊艳

Pickle_Rick_1991 · reddit · 2026-08-11

发帖人分享了名为 Qwen3.6-27B-Fable-Fusion 的开源模型在本地部署的实测体验。在 128k 上下文环境下,该模型即使使用 Q4KM 量化版本,配合 projector 实现视觉能力,依然表现出极强的连贯性和推理能力。

作者目前在单张 24GB 显存的 AMD 7900 XTX 显卡上流畅运行,用于编写脚本和指导视频生成。但他困惑于如何对该模型进行标准化基准测试,以便与 Unsloth 的版本进行客观的能力对比。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →