64GB 内存本地部署 Qwen3 千亿参数模型,192K 上下文体验良好
lxfater · x · 2026-10-04
作者在 64GB 内存的低配电脑上本地部署了 Qwen3 千亿参数量化模型,初见体验良好,认为新 UI 改进明显,唯一不足是上下文窗口只有 192K。作者自嘲「已经有锤子了,钉子在哪里」,欢迎推荐本地大模型的应用场景。
「Infra」频道最新
- DeepMind 研究员估算:全球有效算力每年增长至少 10 倍 — 141_1337 · 2026-11-20
- GPU 短缺之辩:真有 AI 需求的公司仍在被算力饿死 — matt_slotnick · 2026-11-20
- 微软 Bing Web IQ 全面开放:Auto 编排多源检索,为 Agent 提供实时世界知识 — dejanseo · 2026-11-20
- exe.dev 发布 Rex 集成:远程 VM 正成为 agent 时代的主工作台 — davidcrawshaw · 2026-11-20
- 业内人士判断:CUDA 与 ISA 都不再是护城河,芯片创新潮将至 — IgorCarron · 2026-11-20
- MIT 与 NVIDIA 推出 QDA:用智能体自动设计量化方案,64 GPU 小时超越最强人工配方 — omarsar0 · 2026-11-20