7.5MB 五模型端侧语音前端 Alkove:只留你的声音再进 STT

cocktailpartyfixer · reddit · 2026-10-21

作者在生产环境跑 LLM 语音助手时发现,麻烦多在 LLM 之前:周围人说话混进转写、误触发打断。于是做了开源(Apache-2.0)端侧语音前端 Alkove,五个小模型共约 7.5MB:

技术要点:自研 Rust 推理引擎(非 onnxruntime),WebAssembly/Python/Android 同位一致;浏览器端 134KB(brotli),AudioWorklet worker 驱动,无需 COOP/COEP 头;手机单线程速度 Focus 38.6ms/秒音频。提供 npm、pip、Android 包及 LiveKit Agents、Pipecat 插件。

实测:AMI 会议数据上,他人语音进入转写的词从每分钟约 17 个降到 0.5 个。局限:只适合近场单人麦克风,同性别声音同时说话仍难分离,16kHz 处理。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →