5M 参数小桥接器:把另一模型的语义注入 MiniMax H3
NoMouse9610 · reddit · 2026-09-05
一位开发者实验将完全不同架构(SenseNova U1.5)学到的高层语义表示迁移进 MiniMax H3 的条件空间,最终形成「Semantic Bridge」项目,权重、ComfyUI 节点与训练脚本已开源。
- 直接移植权重不可行:两模型 2D 权重形状完全无匹配。
- 作者提取两模型多个隐藏层状态,在 30 组层组合中筛选出最佳配对 SenseNova L32 → H3 L49,用 4096→128→5120 低秩投影器达到验证余弦 0.9042。
- 初版桥接需推理时同时运行 SenseNova,不实用;于是训练了一个仅 5–6M 参数的学生网络(5120→512→512→5120),直接从 H3 自身 L49 条件重建投影后的教师表示,完全不改动扩散权重、推理时无需 donor 模型。
- 最终 V3 学生网络验证余弦 0.9959,各修正集余弦均高于 0.98,alpha 0.10 时混合条件与教师桥接余弦达 0.999958。
目标改进维度包括 prompt 遵循、构图与空间关系、人体解剖、材质光影、反射遮挡与文本理解。
「多模态」频道最新
- 开源小模型 TTS 走红:Hojo-TTS-Light 仅 40M/80M 参数 — ZabihullahAtal · 2026-10-23
- Obsidian Light Mirage 提示词模板:用明暗对比打造雕塑感光影人像 — LudovicCreator · 2026-10-23
- AI 生成短片《天空不跪》:骑龙勇士史诗感画面惊艳 — scenemixer_official · 2026-10-23
- AI 生成黑暗骑士系列图:雾气蝙蝠侠与雨夜蝙蝠车氛围拉满 — egeberkina · 2026-10-23
- PixText:不到 1B 参数快速修复 AI 图中乱码文字的模型 — Creepy_Astronomer_83 · 2026-10-23
- AI 视频运镜封神:镜头绕飞单车、钻过脚踏板穿越雨中街景 — umesh_ai · 2026-10-23