ESP32 语音助手实战:AIMET 量化把唤醒词模型压缩 8 倍
carrycooldude · x · 2026-09-05
开发者 @ashwinexe 受 @carrycooldude 现场端侧演示启发，为 ESP32 做了一个小型语音助手。关键做法：
- 用高通 AIMET 对唤醒词模型做 8 倍压缩量化；作者实测朴素 4-bit 舍入会损失 3.7% 精度，而 AIMET 的 AdaRound 量化把精度找回来了。
- 唤醒词语音用 GradiumAI 的 TTS 生成，共 22 种音色。
这是端侧部署量化的可复现参考：小模型上 4-bit 量化的精度损失是真实存在的，AdaRound 类方法值得优先尝试。
「Infra」频道最新
- Wan2GP 桌面启动器 Tauri 版:一键装好开源视频生成全家桶 — Extension_Affect_483 · 2026-09-05
- 把 NVIDIA DLSS 5 神经渲染器搬上 Mac:开源项目实测精度几乎无损 — WaveCut · 2026-09-05
- 双 5070 Ti 跑 Qwen3.8-27B:三引擎实测,vLLM 一个 flag 差 11 倍 — puthre · 2026-09-05
- 开发者优化 GLM 5.2 在 B300 上的推理速度，并替换 Claude Code 中的 Anthropic 模型 — abhijithneil · 2026-09-05
- LLM 推理从 MVP 到生产：什么逼你换掉整套技术栈 — Ok_Philosophy_4031 · 2026-09-05
- 爆料称 GPT-6 Astra 元提示能力远胜 Claude Fable 5.1 — whoiskatrin · 2026-09-05