SenseNova-Loop 9B 在 8GB 显存跑通,推理 token 省一半
R_Duncan · reddit · 2026-11-20
Reddit 用户分享在 8GB 显存(RTX 4060)上运行 SenseNova-Loop 9B(100k 版本 GGUF)的实测:速度约 22 tokens/s。作者称赞其推理与回答非常简洁,token 用量约为 Qwen3.8 的一半,测试一天后体验满意。
对低显存本地部署用户是一个可行的参考选项。
「Infra」频道最新
- 量子计算瞄准 AI 工作负载,IBM 与 QuEra 公布容错路线图 — mikeflache · 2026-11-20
- 腾讯财报电话会:最新出口管制将加速中国半导体自给自足 — basedjensen · 2026-11-20
- Chorus 论文:共享 n-gram 嵌入表缩小 87%,性能反超 DeepSeek Engram — brown2green · 2026-11-20
- 内存仅 20MB 的浏览器 IDE px0 发布,作者谈如何逐层做减法 — arpit_bhayani · 2026-11-20
- 清昴智能发起昇腾 950DT 万卡级 Token 工厂,算力利用率从 40% 提至 80% — 量子位 · 2026-11-20
- DeepSeek 招聘 JD 直言 10 万卡集群运维难题,传 V5 将用昇腾 950 训练 — teortaxesTex · 2026-11-20