实测:DINOv3 嵌入 1bit 量化加重排即可高效图像检索
mgostIH · x · 2026-11-04
作者实测发现 DINOv3 的语义嵌入质量足够好,能识别出两张图之间的共同点,而 Opus 5.5 High 一开始看不出来、需要分析图像所在聚类才行;SigLIP 2 的语义则太粗糙。
配套经验:嵌入向量用 4bit 量化存储对检索几乎无损;甚至压到 1bit 以下也效果很好,只需对召回的更多候选做一次重排(代价是推理开销增加)。参考性能:在 9070XT 显卡上 DINOv3 可跑出约 78 img/s。
所属事件:实测显示 embedding 量化到 4bit 近乎无损,1bit 加重排仍可用(2 条相关)→
「Infra」频道最新
- Arm 财报拆解:数据中心版税翻倍,自研芯片与客户竞争成隐忧 — tengyanAI · 2026-11-05
- 开源 Local Office 为 Windows ARM64 骁龙 NPU 添加本地 AI 支持 — HowDevelop · 2026-11-05
- llama.cpp 发布 v0.9.0,ggml 团队数周内将推出首个 v1.0.0 大版本 — ggerganov · 2026-11-05
- llama.cpp 发布 v0.9.0,数周内将迎来 v1.0.0 大版本 — ggerganov · 2026-11-05
- llama.cpp 获 GitHub Octoverse 2026 顶级开源项目认可 — ggerganov · 2026-11-05
- Google 免费放出 GPU 大师课:从 Tensor Core 到 HBM 全拆解 — mdancho84 · 2026-11-05