开源 w2v-BERT 2.0 提速实现:训练与推理均快约 3 倍
kastnerkyle · x · 2026-11-23
开发者 Wataru-Nakata 发布了 w2v-bert-fast,一个针对 Hugging Face Wav2Vec2BertModel(w2v-BERT 2.0)的加速实现,训练(前向+反向)和推理(仅前向)都能获得约 3 倍的速度提升。
关键点:
- 结果完全一致:使用相同权重、相同 state-dict 键名,输出与原模型逐位一致,可直接替换。
- 技术手段:融合的 Triton 相对位置注意力、channels-last 卷积、GPU 上计算 SeamlessM4T 特征,以及逐层 torch.compile。
- 使用方式:pip install git+https://github.com/Wataru-Nakata/w2v-bert-fast,一行 w2vbertfast.load(..., dtype=torch.bfloat16, compile=True) 即可加载加速版预训练模型。
Apache-2.0 许可,适合语音预训练/微调和推理场景直接替换原实现。
「多模态」频道最新
- 五大多模态模型评测:AI 看历史插画单体常错、群体分布却近乎完美 — _akpiper · 2026-11-23
- 开发者开源 Claude 音乐视频插件:MCP 接视频模型自动出 MV — AIandDesign · 2026-11-23
- Midjourney+Seedance 2.5 经 Higgsfield MCP 串出 AI 微电影《The Wow Lunch》 — azed_ai · 2026-11-22
- 8GB 显存跑 Wan 2.2 图生视频:4 步出片并自动存尾帧 — Equivalent-Ad1959 · 2026-11-22
- 零自定义节点:把模特照片套进参考视频动作的时尚流水线 — lmcdesign · 2026-11-22
- 朋友用开源「老李 Skill」做 20 多部 AI 短剧,红果播放破 5000 万 — vista8 · 2026-11-22