网友用 wllama 在 Rabbit R1 上跑通 Qwen3.5-0.8B 4-bit 量化

ngxson · x · 2026-10-19

开发者 mervenoyann 发推称无法直接下载 llama.cpp，于是改用 ngxson 的 wllama（基于 WASM 的 llama.cpp 浏览器绑定）在 Rabbit R1 上运行了 Qwen3.5-0.8B 的 4-bit 量化版——这也是 "Qwen3.5" 这一未正式发布型号名的一次提前现身。ngxson 转发调侃「llama.cpp，那只兔子彻底熟了」，玩的是 Rabbit R1 的品牌梗。

亮点在于：一台以翻车著称的 AI 硬件，靠浏览器端 WASM 推理方案也能跑通最新的小模型，wllama 这条路径对想在各种受限设备上本地跑 LLM 的人有参考价值。