两年自建本地 AI「操作系统」Aether:记忆、编排与故障恢复全栈
Budget_One_8784 · reddit · 2026-10-06
一位独立开发者公开了打磨两年的本地 AI 系统 Aether,主张「LLM 只是可替换的推理引擎,不应等于整个系统」。架构分层:
- Primary Reasoning Stack (PRS):判断问题类型并分发任务的高层推理层
- Mini Operating Core (MOC):处理记忆、上下文组装、运行时状态、权限、路由、恢复等运行底座
- 持久记忆:拒绝「全丢向量库了事」,采用结构化记忆+工作记忆+长期存储+检索排序与来源追踪,防止语义相似但过时的记忆被注入
- Hands & Eyes:computer use 框架,做视觉/OCR、UI 定位、动作规划与验证重试;核心教训是「点击返回成功码≠动作真的发生了」
- FailureMesh:把有意义的故障保存、分类并转化为可复用的守卫与回归测试,形成 failure→evidence→cause→guard→regression 闭环
- 硬件围绕 RTX 3090 本地模型,目标异构集群:小型专用 GPU 节点+大内存推理节点+按需调用云端
作者正在寻找在多智能体编排、长上下文检索、分布式推理、vLLM/SGLang、MCP、故障恢复等方向深潜的同好交流,并坦承部分模块已推翻重写五次。
「编程与Agent」频道最新
- OpenAI 把上下文压缩做进 Responses API,开发者质疑难成竞争壁垒 — zeeg · 2026-10-06
- 开发者打造 Claude Code 技能：用通俗语言生成更靠谱的 HTML 计划 — trq212 · 2026-10-06
- OpenAI 在 Responses API 内置 compaction,被指或成厂商锁定手段 — pvncher · 2026-10-06
- DoorDash 开放 CLI 与 MCP,AI 代理可自动下单补货零食柜 — Scobleizer · 2026-10-06
- zeeg 质疑实验室借 compaction 锁定开发者生态 — zeeg · 2026-10-06
- Anthropic 推出 Claude Code mods:用 TypeScript 重写提示词与界面 — thione · 2026-10-06