极客分享:多模型「群聊」编排器架构与共享上下文实现
aegersz · reddit · 2026-08-09
一位开发者分享了其正在迭代的“群聊”多模型编排器项目。该项目通过 API 将 Claude、Grok、Gemini 和 ChatGPT 等多个主流大模型接入同一个虚拟群聊。
- 核心机制:通过 Python 脚本和 filelock 文件锁管理共享的 JSON 数据,确保所有参与的 AI 都能看到最近 2040 条群聊记录,从而构建了一个微型的“共享上下文窗口”,让不同模型在同一语境下保持信息同步。
- 工程挑战:作者提到,由于每次调用都需要将大量历史消息转化为向量,这种架构会导致严重的“Token 消耗”。为了控制成本,作者不得不暂时放弃了 4 模型并行的方案,转而专注于优化 3 模型协作模式。
「编程与Agent」频道最新
- 跑者实测:用 Coros MCP 自动同步运动数据 — ikanez · 2026-08-09
- GitHub 热门项目:轻量级 VPS 安全与性能审计脚本 — tom_doerr · 2026-08-09
- AI Agent 自我升级实践:克隆代码并隔离测试 — Remarkable-Dot9003 · 2026-08-09
- 无需鼠标:用 Obsidian CLI 让 AI 自主开发插件 — dSebastien · 2026-08-09
- 多智能体上下文缺失致程序崩溃:开发者求助容错方案 — h34ra · 2026-08-09
- 极客尝试:用 mini-swe-agent 搭建复古像素风 GUI 智能体框架 — babayada · 2026-08-09