旧 X79 工作站跑本地模型:用 GLM + 多卡旧 GPU 摆脱 Claude 依赖
DarkBrews · reddit · 2026-10-06
一位用户计划把老 X79 平台(i7-3930K、56GB DDR3、RTX 2080 Ti 11GB + RTX 3060 Ti 8GB,CachyOS 无头模式)改造成本地推理机,主要跑 Strata,询问 Flash-Next IQ3XXS 量化能否胜任。
- 另一套方案是用 M4 32GB 作协调/路由器跑 GLM-4.7-Flash,搭配一台 9070 XT 跑 27B 模型
- 实测中发现 Gemma 26B 在其 supposedly 最强的长文拼接任务上表现糟糕
- 目标用途是 agentic coding、网页抓取、环境配置等,核心诉求是减少对 Claude 的依赖
- 他在纠结 GLM + 27B + Flash-Next 是否冗余,以及老平台/混插显卡下的实际 tok/s 预期
典型的旧硬件本地部署讨论,对低成本搭 agent 工作站有参考价值。
「编程与Agent」频道最新
- Grok Bot 官宣两周六场工作坊,覆盖营销、销售与编程场景 — XFreeze · 2026-10-06
- Nous Research 发 Agent 宣言:模型、记忆、运行环境都该由用户掌控 — NousResearch · 2026-10-06
- Linux 上完整安装 Google Antigravity 套件的教程 — CommunicationMean385 · 2026-10-06
- 实测20余种让廉价编码模型变强的方法：强模型「良心监督」性价比最高 — KangarooAnxious9394 · 2026-10-06
- 一周把所有仓库从就绪 Level 1 提到 Level 5 — matanSF · 2026-10-06
- 用 ChatGPT 设计六足机器人,仿真训练学会行走 — lavanyaai · 2026-10-06