两年自建本地 Agent 系统:多机路由、记忆仲裁与失败治理全复盘
Budget_One_8784 · reddit · 2026-10-08
一位开发者分享了从「本地跑 LLM」演化出的完整系统 Aether:模型只是 worker,真正的系统是围绕模型的路由、记忆、上下文、状态与工具层。
硬件与拓扑:主机为 Ryzen 9 5900XT + RTX 3090 24GB + 64GB 内存;一台轻量 Beta 机承担 CPU/RAM 类任务、遥测与后台作业;M3/M4 Mac 逐步变成可通过 SSH 控制的卫星节点。方向是不同机器 + 不同模型 + 不同任务,而非一台机器包打天下。
核心架构:推理编排层 PRS(Primary Reasoning Stack)之下是 MOC(Mini Operating Core),负责运行时状态、上下文组装、记忆、真源追踪、权限、健康恢复等。记忆系统远超向量 RAG,包含结构化记忆块、长短期记忆、真源包、有界上下文选择、真值仲裁、置信度检索等。最大的未解难题是:每轮该让多少上下文/记忆进入推理模型,既不饿死也不淹没——作者越来越确信「更多上下文 ≠ 更好上下文」。
关键教训:computer-use 层 Hands & Eyes 带来的最大教训是「命令返回成功」不代表动作真的发生,架构因此更依赖观察到的后置状态。失败被固化为 guard 与回归测试(failure → evidence → cause → guard → regression),避免了大量重复踩坑。另有本地媒体生成栈 VideoForge。
「编程与Agent」频道最新
- 博主让常驻 Agent 自主运营新闻站,网友围观 Agent 办报 — RileyRalmuto · 2026-10-08
- 开源 AI Agent Cindy 发布:一端集成 Claude Code、Codex 与 Pi — vista8 · 2026-10-08
- Reddit 热议:把决策外包给 JEV,会切断 agent 的推理链吗 — FluroSnow · 2026-10-08
- Apple 研究:让 MoE 路由对齐 agent 操作,长程任务成功率提升超 10 点 — apple · 2026-10-08
- Jev-Mem 用阈值决策替代 LLM,让 Agent 记忆维护更省更便宜 — Hacubu · 2026-10-08
- 开发者打造自治 agent 社群,Mnemos 平台接近上线 — RileyRalmuto · 2026-10-08