16.9MB 语音识别模型 Whistle，体积仅 Whisper base 1/9 反超精度
Henrie_the_dreamer · reddit · 2026-10-06
Cactus Compute 发布 Cactus Whistle，一个面向超小设备的 ASR 模型：55M 参数（36M 激活）、CQ2bit 量化后仅 16.9MB，约为 Whisper base（145.3MB）的 1/9，速度快 6 倍，多项指标反超。
基准成绩：LibriSpeech test-clean WER 4.31（Whisper base 为 4.9），test-other 10.49（vs 11.0），FLEURS 平均 21.4（vs 24.5），SPGISpeech 7.65，Earnings-22 19.01。支持英德法西意荷波兰语。
架构：log-mel 前端 + 卷积 stem 输入音频编码器，解码器用 Simple Attention + Hadamard MLP，经门控交叉注意力接入，且如 Needle 般分层可裁剪（2 层起即可部署）。关键词偏置可在 beam search 中偏向用户实际会说的名字，救回训练中没见过的姓名；词级时间戳来自解码器自身注意力。支持 17 个平台，包括 RISC-V、WebAssembly、watchOS 等。目标不是 SOTA，而是把智能压缩进平价手机、可穿戴和微控制器。
所属事件:超小语音识别模型 Whistle 走红，16.9MB 可在浏览器运行(2 条相关)→
「Infra」频道最新
- ClickHouse 零秒级聚合 1000 亿行，parallel replicas 横向扩展揭秘 — Abhishekcur · 2026-10-18
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18