Grok 4.5 自动优化语音转文字
Nilofer_tweets · x · 2026-07-15
有人用 Grok 4.5 跑了一个自动研究循环,目标是让 Parakeet TDT 0.6B v3 在 CPU 上更快。
结果是:
- 先定位到 encoder 占了约 98% 的运行时间,实验因此集中在这里。
- 把 encoder 从常规的 Hub dynamic INT8 路径改成 static quant 后,性能提升明显。
- 在 AMD EPYC、8 vCPU 的机器上,吞吐从约 26x real-time 提到 54x real-time,约 2.1x 提速。
- 在 Mac 上,长音频场景也有约 1.4x 的提升。
「编程与Agent」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚,一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎,AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点:Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 投资分析师求教:如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11