80-200GB 显存本地多智能体编码选型:模型与 harness 怎么配
litLikeBic177 · reddit · 2026-10-07
一位需要在本地部署(代码不出内网)的开发者详细列出了搭建 on-prem 多智能体编码系统的硬件与选型问题:1 块 H200 起、可扩到多卡、vLLM 提供 OpenAI 兼容接口,2-3 人并发使用。
核心讨论点:
- 模型能力档位:单卡候选包括 Cohere North Mini Code(30B MoE/3B 激活)、Mistral Small 4(119B MoE/6B 激活)、Nemotron 3.5 等。Vibe Code Bench 结果显示小模型在长端到端构建任务上会崩,只有 Large-4 级(4-8 卡)和闭源模型能撑住。作者想弄清 agentic 仓库级任务的能力跃迁点在 30B→120B 还是必须到 500GB+。
- 异构多智能体:大模型做 planner/reviewer + 小模型做快速 executor 是否真的优于单个中等模型?
- Harness 选择:OpenHands、OpenCode、Cline/Roo/Continue、Codex CLI 本地模式等,哪家对子 agent 路由到不同端点支持最好。
约束条件还有:开放权重、偏好 Apache/MIT 许可、排除中国来源模型。帖子聚合了大量当前本地编码部署生态的选型信息,评论区讨论值得关注。
「编程与Agent」频道最新
- 像招新员工一样配置你的 Grok 智能体:一次只给一个任务 — alex_verem · 2026-10-07
- ChatGPT 接入 Netlify 事件:表单自动回访、部署变更自动播报 — thisiskp_ · 2026-10-07
- Superconductor 推出 Connectors:一次接入 Linear、Sentry、Figma 供全组 Agent 取上下文 — sergeykarayev · 2026-10-07
- Nous Research 推出 Hermes Index 智能体榜单,Claude Opus 5.5 居首 — NousResearch · 2026-10-07
- Coinbase 上线 Agent 交易新功能:模板、TWAP 订单与 MCP 接入 — kleffew94 · 2026-10-07
- Dreadnode 发布 ScopeBench:评测 agent 是否守攻击范围 — dyn___ · 2026-10-07