Grok 4.5 自动优化语音转文字
Nilofer_tweets · x · 2026-07-15
有人用 **Grok 4.5** 跑了一个自动研究循环，目标是让 **Parakeet TDT 0.6B v3** 在 CPU 上更快。 结果是： - 先定位到 **encoder 占了约 98% 的运行时间**，实验因此集中在这里。 - 把 encoder 从常规的 Hub dynamic INT8 路径改成 **static quant** 后，性能提升明显。 - 在 AMD EPYC、8 vCPU 的机器上，吞吐从约 **26x real-time** 提到 **54x real-time**，约 **2.1x** 提速。 - 在 Mac 上，长音频场景也有约 **1.4x** 的提升。