Nemotron 转写补测:NVFP4 比 BF16 错误率仅高 3.6%,开源工具 saturate 曝光
vanstriendaniel · x · 2026-11-06
作者对 Nemotron 3.5 Transcribe 批量转写测试的补充:NVIDIA 模型卡显示 NVFP4 相比 BF16 错误率仅高约 3.6%(BF16 用时 5 分钟),用约 3.6% 的精度代价换来明显更快的速度。
同时公开了他用来做批量推理的工具 saturate(GitHub 开源,Apache-2.0):数据集行输入,对接任意 OpenAI 兼容端点(自建 vLLM/SGLang 等),输出可恢复、可发布的 parquet 数据集,自动做拥塞感知的并发调节,无需手动调参,可用于 OCR、嵌入、分类、翻译等批量任务。
所属事件:Nemotron 3.5 转写实测：11小时录音3分钟完成仅花0.3美元(2 条相关)→
「Infra」频道最新
- Ron Baron 力挺马斯克：2027 年发射太阳能数据中心上太空 — elonmusk · 2026-11-06
- Turso 新加坡数据中心上线，开发者晒图调侃为同伴补上区域 — glcst · 2026-11-06
- 前 Meta 员工估算：Muse 每用户月成本高达 150-300 美元 — RihardJarc · 2026-11-06
- llama.cpp 新缓存 ClassLRU：MoE 解码提速 6-7%，上传减少 8% — pmttyji · 2026-11-06
- 摩根大通交易主管警告：AI 循环交易的市场影响此前被低估 — ZeroStateReflex · 2026-11-06
- LLVM 开发者大会热议:Agent 时代如何造不烂的开源基建 — clattner_llvm · 2026-11-06