OpenCLIP 新增 MaMMUT 支持:修复 pooling 并推出 MaMMUT2
wightmanr · x · 2026-08-20
OpenCLIP 现已支持 MaMMUT 架构(图像编码器 + 文本解码器),实现了对比学习与生成训练的联合步骤。
主要更新:
- 集成了原有 OpenMaMMUT 权重加载,不再需要单独 fork。
- 修复了原 fork 中的多个 pooling 问题。
- 推出了新的 MaMMUT '2' 变体,支持修复后的 pooling 机制。
- 新增对 NaFlex ViT 编码器和 'Modern Text' 解码器的支持。
- 增加了 fused/chunked linearcrossentropy 和 z-loss 配置。
所属事件:MaMMUT2 获 OpenCLIP 支持并经多组实验验证(4 条相关)→
「编程与Agent」频道最新
- Agent 训练新法:Designer 增加记忆与预训练采样,30B 模型涨点 10% — natashajaques · 2026-08-20
- 独立开发者 vibe code 出新标签页扩展:GitHub/HN/arXiv 一屏聚合 — Ubunta · 2026-08-20
- 用 prelude Effect 在 infra 与 runtime run 间共享 layer — samgoodwin89 · 2026-08-20
- 实测三大个人 Agent 产品:Instinct 大胆到会自己重置密码 — illscience · 2026-08-20
- 8月20日 AI 工程日报:工具修复、推理开销与 Agent 研究进展 — ZestycloseTie1793 · 2026-08-20
- 一条 prompt 让编码智能体自己找 API:40 分钟造出便宜 20 倍的视频生成管线 — eptwts · 2026-08-20