纯 JVM 跑 NVIDIA Parakeet:1 小时音频 44 秒转录,比 C++ 参考实现快 2 倍
mkheck · x · 2026-09-24
开源项目 jinfer-parakeet 在 JVM 上实现了 NVIDIA Parakeet 语音识别,宣称无需 GPU、Python、ONNX Runtime 或 whisper.cpp,纯 Java 在普通 CPU 上即达 parakeet.cpp / sherpa-onnx 同级水平,某些场景比 C++ 参考实现快 2 倍——1 小时音频 44 秒转完。
- 精度:F16 下转写结果与 parakeet.cpp 逐词一致,其余差异来自量化噪声
- 支持流式转录:音频边进、文本边出,带跟随说话人的草稿尾部
- 每个 token 附带时间戳与置信度;Parakeet v3 多语言、自动加标点,无需语言参数
- 一等支持 GraalVM Native Image,启动快、内存占用低
对想在 JVM 技术栈里做本地/端侧语音识别的工程师是一个绕开 Python 生态的可选方案。
所属事件:NVIDIA Parakeet 语音模型纯 Java 移植版性能反超 C++ 实现(2 条相关)→
「Infra」频道最新
- 开发者用编码 Agent 在 H100 上跑 Miles 训练并提交首个 PR — VoidAsuka · 2026-09-24
- 工业界快速跟进:MRC 多路径可靠连接回应超大规模 RDMA 论文 — thoefler · 2026-09-24
- 报告:亚马逊美国数据中心容量接近翻倍,比微软多 69% — anselm · 2026-09-24
- 用 Ollama 本地跑开源模型,零订阅复刻 Claude Code 工作流 — Aiden_Tech_Ai · 2026-09-24
- NVIDIA 研究:KV cache 跨模型直传,小模型记忆迁移到大模型免重算 — anselm · 2026-09-24
- _xjdr:TPU 表现出色并非理所当然,是时候看看 v8s 了 — _xjdr · 2026-09-24