64GB 内存本地部署 Qwen3 千亿参数模型,192K 上下文体验良好
lxfater · x · 2026-10-04
作者在 64GB 内存的低配电脑上本地部署了 Qwen3 千亿参数量化模型,初见体验良好,认为新 UI 改进明显,唯一不足是上下文窗口只有 192K。作者自嘲「已经有锤子了,钉子在哪里」,欢迎推荐本地大模型的应用场景。
「Infra」频道最新
- 800G/1.6T DSP 全线紧缺，MaxLinear 1.6T 芯片仍处送样阶段 — iamfabian · 2026-10-04
- Claude 存储/记忆迁移地图：10月6日起 Pro/Max 新会话仅云端 — BenSimonDev · 2026-10-04
- 汽车就是轮子上的手机,研究揭秘谁在偷听车内对话 — longhaul · 2026-10-04
- 本地 LLM 评测乱象：tokens/s 单线程数据基本是噪音 — TheZachMueller · 2026-10-04
- Ahmad Osman 带 DGX Station 上直播：谈本地 AI 如何变得有竞争力 — basedjensen · 2026-10-04
- 三台本地机各构建 Miro 克隆五次,tokens/s 指标毫无意义 — julianharris · 2026-10-04