开源 32M 小模型让语音助手学会说「嗯哼」，CPU 5 毫秒
solyarisoftware · x · 2026-11-02
KoljaB 在 Hugging Face 开源了 backchannel-cue-32m，一个 129MB（ONNX float32）的小模型，专门解决语音助手「等你说完才反应像对着墙说话」的问题：模拟人类倾听时插「mhm」「right」「oh no」这类 backchannel 反应。
- 输入只需用户当前说话文本加几个计数器，不需要音频、不需要 LLM。
- 输出包括：此刻该不该接话的概率、61 类合适反应（如「mhm」「oh no」）、文本情绪（neutral/bad/good/funny）、可能的追问措辞。
- 速度极快：短文本约 5ms，40 词约 12ms，单 CPU 线程即可在每次停顿时实时调用。
- 作者给了实用部署建议：在停顿约 0.45 秒时对实时转写文本调用；接话音频尽量用预渲染而非现生成（现生成来不及）；确认用户已说完就让助手正常回复。
MIT 协议，example.py 即是可复制的完整策略。
「模型」频道最新
- HalachaBench 引发争论：用塔木德律法考模型是知识还是推理？ — teortaxesTex · 2026-11-02
- 爆料称 Anthropic 内测模型 Mythos 5.1 已存在，Fable 5.5 本周或公开 — haider1 · 2026-11-02
- 有人预言 Anthropic 十月发布 Opus 5.5,网友直呼「准得离谱」 — dejavucoder · 2026-11-02
- WhatsApp 官方向 Kimi 致贺「你创造了历史」,网友玩梗力挺月之暗面 — crystalsssup · 2026-11-02
- 从「AGI」到无人问津：GPT-Astra 在 Opus 5.5 发布后被遗忘 — ns123abc · 2026-11-02
- Mollick:ARC-AGI 等大基准已饱和,SemiAnalysis 专家级评测路子对了 — emollick · 2026-11-02