4GB显存本地Agent Harness怎么设计
ProcedureLeading1021 · reddit · 2026-07-18
这条长帖在问：在 **4GB 显存、老旧本地机器** 上，怎样把一个 agent harness 做得更稳、更高效。 作者关心的点包括： - 是否适合用 **ReAct loop** 做低成本实时推理 - 如何让模型保留**长期目标**，同时不牺牲当前动作决策 - 怎样设计 **sub-agent**、上下文注入器/压缩器、动作日志与截图存储 - 如何让主模型理解 harness 的能力边界，避免上下文膨胀 - 是否要引入自动检索、梦境/离线演练、用历史 prompt 生成训练样本等机制 整体上，这是一个偏工程实战的问题：作者已经有本地计算、kill switch、子代理和检索循环的雏形，想知道还缺哪些关键组件，以及哪些上下文工程方式最适合小模型。