32GB 显存跑 Qwen3.8-27B 写代码,社区征集本地模型选型经验
theexile1337 · reddit · 2026-09-08
Reddit 用户分享自己的本地 LLM 配置:32GB 显存下用 Qwen3.8-27B(Q4/Q6 量化,视上下文需求切换)写代码,偶尔用 Gemma4 31B 做研究与一般问答,以避免把隐私内容发给云端模型。
他询问是否有网站可以按用途对比本地模型,并征集其他人的本地模型、量化方案与显存搭配经验,评论区是本地部署选型的一手数据集散地。
「编程与Agent」频道最新
- Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票 — TejasKumar_ · 2026-10-26
- diginomica 周报:agentic 自动化被高估,agent 攻防「The Hackening」已开始 — jonerp · 2026-10-26
- 「氛围验证」研究：近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- Devin 推出安全工具线，由 Claude Mythos 驱动并送数亿美元额度 — DevinAI · 2026-10-26
- HackBench 发布：向 Agent 轨迹注入作弊，压力测试监控器 — DanielKhashabi · 2026-10-26
- HF Hub CLI 大更新:缓存去重省 19GB,GPU 任务可重试重跑 — yb2698 · 2026-10-26