128GB 本地跑 GLM 4.5 Air:开发者实测开源模型做真实开发
bryancostanich · reddit · 2026-10-15
开发者 bryancanich 在 Reddit 征集本地开源权重模型做真实开发任务的经验,同时介绍其开源 harness Cercano 的三级路由设计:
- Primary:主 agent,用 ChatGPT/Claude 账号
- Secondary:主 agent 委派对象,作者用 GLM 5.3 + GLM 5.3 Air(前者慢但强,后者快且能力接近)
- Local:真正本地任务(git 工作流、文档、代码检索与摘要),在 128GB 内存机器上用 llama-server 跑 GLM 4.5 Air,128K 上下文约吃 96GB 内存
作者称尝试过 Qwen3、Gemma3 及旧版 DeepSeek 模型,体验均不及 GLM 4.5 Air,怀疑基准分数高估了小模型实际开发体验;想为 48GB/96GB 机器收集开箱即用的配置经验。
「编程与Agent」频道最新
- Vercel 推出免注册部署:拖拽文件到首页即得线上 URL — steren · 2026-10-23
- 5 个 Claude Code 会话经 MCP 互发邮件,组队攻破多品牌网络摄像头 — doodlestein · 2026-10-23
- Vercel 上线 vercel deploy --temporary,可临时部署后自动清理 — cramforce · 2026-10-23
- 用同一个 Notion 工作区让多个 Agent 互相沟通分工,实测有效 — nbaschez · 2026-10-23
- Sierra 伦敦大会被指逊色旧金山场,Agent 落地数据成稀缺话题 — DimlyDimwitted · 2026-10-23
- 开源 C-Sweet 用本地 27B 小模型模拟整家公司运营 — Demonicated · 2026-10-23