ESP32 语音助手实战:AIMET 量化把唤醒词模型压缩 8 倍
carrycooldude · x · 2026-09-05
开发者 @ashwinexe 受 @carrycooldude 现场端侧演示启发，为 ESP32 做了一个小型语音助手。关键做法：
- 用高通 AIMET 对唤醒词模型做 8 倍压缩量化；作者实测朴素 4-bit 舍入会损失 3.7% 精度，而 AIMET 的 AdaRound 量化把精度找回来了。
- 唤醒词语音用 GradiumAI 的 TTS 生成，共 22 种音色。
这是端侧部署量化的可复现参考：小模型上 4-bit 量化的精度损失是真实存在的，AdaRound 类方法值得优先尝试。
「Infra」频道最新
- 实测RTX 4060：FP16矩阵乘法并非恒快2倍，大矩阵提速约3.5倍 — cneuralnetwork · 2026-10-23
- BaseQuant V1 量化 Qwen3.8-27B,KL 散度比 Unsloth 低 17–34% — nightowlsleeping · 2026-10-23
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23
- 英伟达柏林 GTC:人形机器人与 Vera Rubin 超算成主角 — emmanuelvivier · 2026-10-23
- 联想 AI Library 新增 5 个用例，宣称一周部署、成本降 70% — shashib · 2026-10-23
- Linux 内核模块解锁 RTX 3090 半速张量核心，BF16 算力提升 1.9 倍 — UltramanQuar · 2026-10-23