8GB 显存党的日常:苦盼 Qwen4 35B A3B,先用 Gemma 26B QAT 解馋

RobustLokiX · reddit · 2026-10-03

r/LocalLLaMA 上的自嘲梗帖:只有 8GB 显存 + 16GB 内存的玩家每天刷 subreddit,盼着出现 Qwen4 35B A3B 这类能在低配硬件上跑的 MoE 小激活模型(作者还幻想加 ngram 投机把 35B 提速到 70B+ 水准),当下只能靠 Gemma 26B QAT 量化版安慰自己——能稳定跑出 26 tok/s 的生成速度。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →