Unsloth的Gemma 4 mmproj与新版llama.cpp不兼容,多模态功能静默失效
Top_Speaker_7785 · reddit · 2026-08-06
开发者发现Unsloth的Gemma 4 mmproj文件与新版llama.cpp不兼容,导致多模态功能(图像分析、语音转录)静默失效,输出<unused49>垃圾token。根因是第三方量化器与llama.cpp内部格式不同步。切换到ggml-org官方GGUF后问题解决。文章详细记录了排查过程、根因分析和修复方案,并提出了社区问题。
「编程与Agent」频道最新
- 为Agent接入浏览器:Cloudflare Kitesurf MCP配置指南 — dinasaur_404 · 2026-08-06
- Cloudflare Kitesurf MCP 实测:为智能体装上浏览器 — dinasaur_404 · 2026-08-06
- 云智能体优于本地执行?开发者热议云端并行优势 — rseroter · 2026-08-06
- OmniRoute 开源网关聚合 290+ AI 服务,告别编码额度焦虑 — alex_verem · 2026-08-06
- AI Agent 权限控制:系统提示词不足以保障安全 — TheOyinbooke · 2026-08-06
- AI Agent 框架怎么选?三大分类与选型指南 — goyalshaliniuk · 2026-08-06