两年自建本地 Agent 系统:多机路由、记忆仲裁与失败治理全复盘

Budget_One_8784 · reddit · 2026-10-08

一位开发者分享了从「本地跑 LLM」演化出的完整系统 Aether:模型只是 worker,真正的系统是围绕模型的路由、记忆、上下文、状态与工具层。

硬件与拓扑:主机为 Ryzen 9 5900XT + RTX 3090 24GB + 64GB 内存;一台轻量 Beta 机承担 CPU/RAM 类任务、遥测与后台作业;M3/M4 Mac 逐步变成可通过 SSH 控制的卫星节点。方向是不同机器 + 不同模型 + 不同任务,而非一台机器包打天下。

核心架构:推理编排层 PRS(Primary Reasoning Stack)之下是 MOC(Mini Operating Core),负责运行时状态、上下文组装、记忆、真源追踪、权限、健康恢复等。记忆系统远超向量 RAG,包含结构化记忆块、长短期记忆、真源包、有界上下文选择、真值仲裁、置信度检索等。最大的未解难题是:每轮该让多少上下文/记忆进入推理模型,既不饿死也不淹没——作者越来越确信「更多上下文 ≠ 更好上下文」。

关键教训:computer-use 层 Hands & Eyes 带来的最大教训是「命令返回成功」不代表动作真的发生,架构因此更依赖观察到的后置状态。失败被固化为 guard 与回归测试(failure → evidence → cause → guard → regression),避免了大量重复踩坑。另有本地媒体生成栈 VideoForge。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →