开源 hunch 用 EmbeddingGemma 2 实现毫秒级本地判断

开源项目 hunch（GitHub 347 star）基于谷歌 EmbeddingGemma 2 构建了一套可在 CPU 上实时学习的本地语义决策系统：不跑完整多模态 LLM，而是在嵌入模型之上训练轻量分类器。性能方面，文本判断仅需约 20-22 毫秒，每百万 token 成本不到 3 美分。谷歌 Gemma 官方账号也转发了这一创意用法。

2026-11-05 ~ 2026-11-05 · 3 条相关

• EmbeddingGemma 2 玩出新花样：本地实时分类文本仅 20ms — googlegemma · 2026-11-05
• hunch 用 EmbeddingGemma 2 做本地语义决策：文本 22ms 出判断，每百万 token 不到 3 美分 — aigclink · 2026-11-05
• 开源 hunch：本地小模型蒸馏大模型，CPU 毫秒级判断每百万 token 不到 3 美分 — aigclink · 2026-11-05