Gemma-4-31B 微调版登顶 Decision Index,非因果注意力架构获验证

multimodalart · x · 2026-10-12

多模态社区作者 multimodalart 指出,基于 Gemma-4-31B-it 的微调模型(Mapika's Decider 31B)在 Decision Index 0.3.1 上并列第一,原版模型用 AnyJev 推理方法也并列第三,显示该基座模型非常适合作为类 Jev 模型的底座。榜单前两名均采用 Perplexity Decider v1.1 的非因果注意力架构,且来自独立训练的微调,验证了该架构的有效性;作者推测非因果注意力加持的 Gemma-4-31B 潜力巨大。此外,更简单的替代方案(如 Shisa 那样把同一输入读两遍)也能拿到接近前三的非微调成绩。

所属事件:Decision Index 0.3.1 更新:vLLM d3 与 Mapika Decider 31B 并列登顶(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →