78美元训出越南语ASR SOTA,EmbeddingGemma 2 再现低成本专用模型路线
aigclink · x · 2026-10-15
谷歌 EmbeddingGemma 2 的第三个「歪用」案例:网友复用其预训练音频编码能力,仅微调 12 层音频编码器顶部 2 层,再训练一个 6 层 Transformer Reader 通过 CTC 解码,用 3000 小时越南语音频、8 张 H100 约 3 小时、约 78 美元成本做出 SOTA 级越南语 ASR。
- 8 个越南语基准平均 WER 6.87% 居首,略超 Gemini-Flash-3.8(6.92%)、Cohere Transcribe(7.01%)、ElevenLabs Scribe v2(7.08%)
- 无自回归逐 Token 生成,CPU 推理速度达实时的 200 倍,支持越英混合口语与流式识别(0.48 秒分块)
- 同一模型此前还被做成 macOS 菜单栏本地多模态语义搜索工具:文本/图像/音频/视频映射到统一 768 维向量空间,llama.cpp+Metal 本地运行,混合向量+关键词检索,可定位到视频某一刻、播客某一分钟、PDF 某一页
作者认为这一路线若能跨语言复现,将冲击大量小语种、方言等细分语音识别市场,被通用模型忽视的地方语言可能迎来一波低成本专用模型。
所属事件:8 卡 H100 两小时训出越南语语音识别 SOTA,成本仅 78 美元(4 条相关)→
「多模态」频道最新
- 110页综述系统梳理自回归视频生成的记忆机制全景 — jiqizhixin · 2026-10-15
- 浙大等提出 ATAS 框架,用世界状态记忆让长视频生成跨镜头保持一致 — zju · 2026-10-15
- 为 AI 音乐系统写「催眠钢琴律动」skill:借鉴 Todd Terje 曲目的九原则方法论 — doodlestein · 2026-10-15
- AI 生成游戏 Acorn Rally 上线月球与沼泽两条新赛道 — AIandDesign · 2026-10-15
- MCP for Blender 一年半冲上 30.9K star,Claude 可直接建模调材质 — sidahuj · 2026-10-15
- 微软发布 LensErase:一键擦除任何物体的基础模型 — microsoft · 2026-10-15