14 岁开发者单模型替代 Whisper+LLM 听写,4GB 显卡提速最高 36 倍
Mehmet_dedeler · reddit · 2026-11-14
一位 14 岁开发者在 RTX 3050 Ti(4GB)笔记本上,用单一模型取代「Whisper 转写 + LLM 清洗」的两段式听写流程,并开源了听写应用 Typd(Windows NVIDIA 显卡 / Apple Silicon Mac)。
效果:原双模型管线每次听写 2.5–36 秒,单模型短听写约 0.5 秒、长约 1 秒;模型为 2.2GB(Q8)、常驻约 2.5GB 显存。
训练方法:双模型管线只在训练时存在——用开放授权的真实语音,让大 LLM 从转写稿写出成稿,过滤掉丢失真实内容的样本,再用 Qwen3-ASR 1.7B(Apache-2.0)训练从音频直达成稿,可在 llama.cpp 运行。
取舍:不能用 prompt 调风格;1.7B 模型内嵌的语言模型小,长列表和大改写质量下降;丢内容时是静默丢弃(训练时重点过滤);且需要自己训练。单模型的优势是能在还听得见音频时决定取舍,而清洗 LLM 只看文本,常保留你已经收回的话、也修不了 Whisper 听错的词。
所属事件:14 岁开发者单模型语音听写：4GB 显存 0.5 秒出稿(2 条相关)→
「应用」频道最新
- 苹果 HomeView 首批评测翻车：Siri 被嘲「就是个笑话」 — talkaboutdesign · 2026-11-14
- AI 医保创企 Prescience 主打为雇主自动打理员工福利 — RishabJainK · 2026-11-14
- OpenAI 推出 ChatGPT Wallet，Dots 智能体可代你购物付款 — The Verge AI · 2026-11-14
- 水彩皮划艇小世界上线：重现新斯科舍看海豹的童趣记忆 — floguo · 2026-11-14
- YC F26 项目 Constor 发布:AI 原生建筑系统,数天工程量算量缩至几分钟 — ycombinator · 2026-11-14
- 在 Google 搜索框输入一句 prompt,vibe code 出交互式 3D 相册 — jnack · 2026-11-14