Grok 4.5 自动优化语音转文字
Nilofer_tweets · x · 2026-07-15
有人用 Grok 4.5 跑了一个自动研究循环,目标是让 Parakeet TDT 0.6B v3 在 CPU 上更快。
结果是:
- 先定位到 encoder 占了约 98% 的运行时间,实验因此集中在这里。
- 把 encoder 从常规的 Hub dynamic INT8 路径改成 static quant 后,性能提升明显。
- 在 AMD EPYC、8 vCPU 的机器上,吞吐从约 26x real-time 提到 54x real-time,约 2.1x 提速。
- 在 Mac 上,长音频场景也有约 1.4x 的提升。
「编程与Agent」频道最新
- 生物科技 Agent 系列 Day 8:用审查 Agent 自动把关实验记录本质量 — nlarusstone · 2026-10-27
- Photon 在 iMessage 内上线 Agent 互通信,AI 智能体可互相发短信协作 — alvelda · 2026-10-27
- 恶搞论文走红:用 REA 的 MCP 工具反向工程机构交易系统,搞一人量化基金 — PtrPomorski · 2026-10-27
- 用一份一页 spec,Codex 3 分 28 秒复刻 Linear 核心 — aakashgupta · 2026-10-27
- Reticle 推出 AI 编码代理验证层:让 agent 自查生成的代码是否真的能跑 — Scobleizer · 2026-10-27
- 信任你的 Agent,但一定要读它的日志 — brada · 2026-10-27