Gemma 4 训练效果不如 Qwen
ivan_bezdomny · x · 2026-07-17
作者说他们也训练了一个 Gemma 4 模型，但目前效果还不如 Qwen。 他观察到 Gemma 的一个特点是会写得非常短：这有好处，也就是不容易像 GPT-5 那样过度堆信息；但缺点是对于持续学习来说太短了，不利于训练。下一步可能要调整 GRPO 的 reward。
ivan_bezdomny · x · 2026-07-17
作者说他们也训练了一个 Gemma 4 模型，但目前效果还不如 Qwen。 他观察到 Gemma 的一个特点是会写得非常短：这有好处，也就是不容易像 GPT-5 那样过度堆信息；但缺点是对于持续学习来说太短了，不利于训练。下一步可能要调整 GRPO 的 reward。