观察:Gemma 4 32B从base到instruct,感官层被彻底改变
eliebakouch · x · 2026-07-08
@eliebakoucher分享一项发现:Gemma 4 32B从base到instruct的checkpoint,似乎彻底改变了模型前几层的感官阶段(对应底层解析与语法的处理)。他认为这在逻辑上说得通,但能直观看到这点仍很有意思。
eliebakouch · x · 2026-07-08
@eliebakoucher分享一项发现:Gemma 4 32B从base到instruct的checkpoint,似乎彻底改变了模型前几层的感官阶段(对应底层解析与语法的处理)。他认为这在逻辑上说得通,但能直观看到这点仍很有意思。