Neuphonic 开源 43MB 语音直出工具调用模型,单线程 CPU 可跑
TeamNeuphonic · reddit · 2026-10-08
Neuphonic 团队以 Apache 2.0 开源 NeuDecide:一个仅 43MB 的音频到工具调用模型,跳过转写步骤,直接从语音和工具定义生成带参数的工具调用。
性能
- SLURP 工具任务(10 工具)语音直达准确率 72.4%,约为 Nvidia Parakeet + Google FunctionGemma(24.4%)的 3 倍、Cactus(Whistle + Needle)的 3.5 倍
- 单 CPU 线程:MacBook Pro M3 上 46ms 出调用、峰值内存 149MB;树莓派 5 上 206ms、146MB
架构:三个 ONNX 图——音频编码器、将音频表示与分词 JSON 工具定义结合的工具编码器、逐 token 生成调用的解码器(KV cache);工具列表作为每次请求的输入,更换工具无需重训练。源自机器人语音控制需求,提供浏览器 WASM demo(扫地机器人、车控、智能家居预设+自定义工具)和 Python 包,可直接用自己的工具定义测试。
「编程与Agent」频道最新
- 观点：代码是 Agent 唯一能原生读写的载体，App 只是人的界面 — _AustinCalvert_ · 2026-10-08
- GitHub 新设置：可整体关闭 PR 或仅限协作者提交 — jedisct1 · 2026-10-08
- 作者弃工写机器人,让 AI 帮 OpenSCAD 补上主题编辑器 — _Stocko_ · 2026-10-08
- 别只跑 Evals：微基准测试帮你定位 AI 系统哪个组件在退化 — arpit_bhayani · 2026-10-08
- 作者一年实测筛出 12 个 Claude Skills 合集，最高 29.7 万星 — PawelHuryn · 2026-10-08
- JetBrains 开源 Mellum2.1：RL 后训练强化 Agentic 编程能力 — huggingface · 2026-10-08