2x3090 加 128GB 内存,能否低量化跑百亿级大模型
Borkato · reddit · 2026-10-23
Reddit 用户提问:已有 2 张 3090(48GB VRAM)加 48GB DDR4,若升级到 128GB DDR4,能否以低量化跑 DeepSeek V4.1 与 GLM 5.3 Flash 并达到 20 token/s 以上、优于 Qwen 3.8 Flash Next;否则是否应直接换 DDR5 平台。帖子尚在求解答,暂无结论。
「Infra」频道最新
- MCP 7 月 28 日版本实现远程服务器无状态化 — bibryam · 2026-10-23
- MCP 生态大会:AAIF 成员达 305 家,Skills over MCP 等路线图曝光 — bibryam · 2026-10-23
- 仅 8% 云厂商支持 OIDC,开发者呼吁彻底告别长期 API 密钥 — cramforce · 2026-10-23
- Swift-1.5-Qwen3.8-27B 移植 hipfire：7900 XT 上端到端快 2.2 倍 — Queasy_Asparagus69 · 2026-10-23
- Intel CTO：芯片产能最多翻倍，追不上 AI 算力每年 3 倍增速 — SammaVaco · 2026-10-23
- 工程师拆解投影电视唤醒慢根因：双 Linux 板冷启动拖慢 10 秒 — banteg · 2026-10-23