Unsloth的Gemma 4 mmproj与新版llama.cpp不兼容,多模态功能静默失效

Top_Speaker_7785 · reddit · 2026-08-06

开发者发现Unsloth的Gemma 4 mmproj文件与新版llama.cpp不兼容,导致多模态功能(图像分析、语音转录)静默失效,输出<unused49>垃圾token。根因是第三方量化器与llama.cpp内部格式不同步。切换到ggml-org官方GGUF后问题解决。文章详细记录了排查过程、根因分析和修复方案,并提出了社区问题。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →