8GB 显存还能干嘛？网友求解小模型现状与推荐
riceinmybelly · reddit · 2026-09-11
一位用户发帖询问：在 2050 这类 8GB 显存的显卡上本地跑模型还有没有意义？主要用于办公场景，错峰加载 embedding、reranking 和聊天模型，不追求世界知识，重点是工具调用能力和多语言支持，视觉能力有则更好。
他感慨小模型路线似乎被社区冷落，想了解最近有没有好用的新小模型。
「Infra」频道最新
- M.2-Oculink 显卡链路暗降 PCIe 1x,附 lspci 排查命令 — El_90 · 2026-09-11
- DeepSeek 发布 V4.1-Flash:百万 token 上下文,KV 缓存缩小 4 倍 — matlabulous · 2026-09-11
- 西班牙新规要求 80% 逐小时绿电匹配,数据中心建设或耗资千亿欧元 — eherrerosj · 2026-09-11
- Draghi 引用 ECB 研究:AI 或每年提振欧洲生产率 0.3-0.4 个百分点 — rohanpaul_ai · 2026-09-11
- 高通新一代 Hexagon NPU 曝光:可跑 30B MoE,上下文 32K — lee_stott · 2026-09-11
- 斯坦福论文:本地+云端混合路由可省 60%-80% 算力成本 — rohanpaul_ai · 2026-09-11