求助:64GB 内存+16GB 显存,值不值得从 Qwen 3.6 35B 换 Flash-Next
msalsas · reddit · 2026-10-08
楼主配置为 RTX 4080 16GB 显存 + 64GB 内存,目前运行 Qwen 3.6 35B-A3B(Unsloth 量化,可完整装入显存)且很满意。想请教是否有人在这种配置上以 Q2/Q3 量化跑过 3.8 Flash-Next,值得为 30GB+ 的下载切换吗,还是维持现状。
「Infra」频道最新
- xAI 算法:Elon 以实验室估值募资投芯片,靠租数据中心赚钱 — PaulYacoubian · 2026-10-08
- 标普 3/4 盈利增长靠科技,AI 行情进入选股分化期 — demian_ai · 2026-10-08
- OpenAI 12 万文件数学证明撑爆 Linux 默认 mmap 上限 — ceciletamura · 2026-10-08
- Mistral 研究员:15T tokens 低估了,预训练实际约 40T+ — eliebakouch · 2026-10-08
- DevDay 2026:Higgsfield 展示 Agent 自行申请算力的架构实践 — OpenAI · 2026-10-08
- Nebius 年涨160%对CoreWeave仅10%,AI算力股分化拆解 — Beth_Kindig · 2026-10-08