用 4B/8B 编码器替代 32B：MiniMax H3 优化实测

Fit_Ad7343 · reddit · 2026-08-15

作者发布了 MiniMax H3 文本编码器的 v3 更新，尝试用更小的 Qwen3-VL（4B/8B）配合学习的投影矩阵来替代原本的 32B 编码器，保持 DiT 不变。结果显示，4B/8B 版本在处理明确指令（姿态、服装、动作）上与 32B 极为接近，余弦相似度达 0.9449（8B），且显存需求从 15.7GB 降至约 5GB。局限性在于无法恢复小模型未编码的细节，未明确描述的背景元素会因模型差异而变化。