5M 参数小桥接器:把另一模型的语义注入 MiniMax H3
NoMouse9610 · reddit · 2026-09-05
一位开发者实验将完全不同架构(SenseNova U1.5)学到的高层语义表示迁移进 MiniMax H3 的条件空间,最终形成「Semantic Bridge」项目,权重、ComfyUI 节点与训练脚本已开源。
- 直接移植权重不可行:两模型 2D 权重形状完全无匹配。
- 作者提取两模型多个隐藏层状态,在 30 组层组合中筛选出最佳配对 SenseNova L32 → H3 L49,用 4096→128→5120 低秩投影器达到验证余弦 0.9042。
- 初版桥接需推理时同时运行 SenseNova,不实用;于是训练了一个仅 5–6M 参数的学生网络(5120→512→512→5120),直接从 H3 自身 L49 条件重建投影后的教师表示,完全不改动扩散权重、推理时无需 donor 模型。
- 最终 V3 学生网络验证余弦 0.9959,各修正集余弦均高于 0.98,alpha 0.10 时混合条件与教师桥接余弦达 0.999958。
目标改进维度包括 prompt 遵循、构图与空间关系、人体解剖、材质光影、反射遮挡与文本理解。
「多模态」频道最新
- 同一提示词实测:Kling 与 Seedance 机甲场景高下立判 — heypearlai · 2026-09-05
- GPT-6 操纵 Blender 做动画:成本约 8 元,对比 Seedance 2.5 的 35 元 — op7418 · 2026-09-05
- 博主用一段提示词让 AI 视频角色从 X 头像里破框走出 — sven_ai · 2026-09-05
- MiniMax H3 语音与表演能力被低估,远不止图像动画 — LudovicCreator · 2026-09-05
- MiniMax H3 生成丧尸场景视频,氛围感引 Reddit 热议 — apoke890 · 2026-09-05
- 超现实红鱼从照片游出:一段 15 秒视频生成的完整提示词 — umesh_ai · 2026-09-05