Qwen3-VL 语法约束会复读
mattjcoles · reddit · 2026-07-14
作者发现：在使用 **GBNF 语法约束解码**时，Qwen3-VL-30B-A3B 会**卡进重复循环**，一直复读同一个合法 JSON 条目，直到上下文耗尽。 他做了多组测试： - 调整量化、温度、flash attention、上下文长度、重复惩罚，都没能根治 - 把重复惩罚拉高后，虽然能打破循环，但结果会变成**语法合法却没有任何条目**的 JSON - 同样问题在较小的 8B 模型上也出现过，15/37 页出错 - gemma-4-31b 也有类似的长字符串字段失败案例 作者的结论是：**只检查 JSON 合法性不够，抽取任务还必须统计输出条目数和内容是否真实生成**。