Google 开源 EmbeddingGemma 2:740M 统一嵌入文本图像音视频
tomaarsen · x · 2026-10-07
Google DeepMind 发布 EmbeddingGemma 2,一个 Apache 2.0 开源的多模态嵌入模型,将文本(含代码)、图像、视频与音频映射到同一个 768 维共享向量空间,文本查询可直接检索照片、音频或视频片段。
- 总参数 740M,支持 100+ 语言,Sentence Transformers 提供 model.encode() / model.similarity() 熟悉 API
- 模块化设计:文本 270M、视觉 170M、音频 300M,可按需只加载所需编码器,面向手机与笔记本等端侧场景(text-only 270M、text+图像 440M、text+音频 570M)
- 相比一代:MTEB 多语言 v2 61.36 vs 61.15,代码检索 MTEB code v1 从 68.76 提升至 78.68(约 14% 相对提升)
- 多模态成绩(768d):MMEB v2 视觉文档 67.84 NDCG@5、视频 50.67 Hit@1、MSEB 音频检索 69.54 MRR@10
- 支持 Matryoshka 训练的 768/512/256/128 维;256d 只占 1/3 存储,MTEB 多语言仅从 61.36 降到 60.41;128d 质量损失明显(MMEB v2 从 59.01 降到 45.65),更适合纯文本负载,混合模态建议 256d
- 注意必须用 BF16 或 FP32,不能用 FP16(激活范围超 FP16 动态范围,会出现 NaN 或静默降质)
所属事件:谷歌开源 EmbeddingGemma 2 多模态端侧嵌入模型(16 条相关)→
「Infra」频道最新
- 21M 小模型配 6.4B 查找表,追平 114M 稠密模型 — fechyyy · 2026-10-07
- Ollama 0.35 引入本地决策模型:简单分类别再用聊天模型 — Technovangelist · 2026-10-07
- CostGraph 宣布成为 InfraCost 替代品，可查 L40 到 A100 各类 GPU 价格 — saheedniyi_02 · 2026-10-07
- Oki Home 推出「记忆电脑」：本机跑 27B 模型，1799 美元起 — Scobleizer · 2026-10-07
- 6 秒转录 1 小时语音：Phonon-2 Core ML 版达 606 倍实时，内存砍至 1.1GB — julianweisser · 2026-10-07
- HN 热帖：AI 已能自行设计推理硬件，openTPU 项目开源 — fsbonetto · 2026-10-07