认知分片架构:专用小模型组合让 Computer-Use Agent 跑进 16GB 内存
alichherawalla · reddit · 2026-09-25
alichherawalla 发布开源项目 Cognitive Sharding,核心思路是不再让一个通用大模型包办规划、界面理解、动作选择与错误恢复,而是按认知功能拆分给专用模型:
- Bonsai 2 27B:负责规划与推理
- Kev 4B:负责常规动作选择
- UI-Mate 9B:负责视觉定位(grounding)
代码层面的控制平面负责在 16GB 内存内调度模型驻留、维护任务状态、限制每个模型可用动作,并在每步之后验证环境。架构刻意以准确性与可靠性换速度——模型切换与验证增加延迟,但能在数百步的工作流中把错误扼杀在传播之前。
作者的核心主张:本地 agent 的能力取决于认知功能如何组合,而非单一模型的强度。技术细节与代码在 GitHub(off-grid-ai/cognitive-sharding),作者征询在 300+ 步 UI 工作流上的本地方案对比。
所属事件:认知分片架构:专用小模型组合让智能体跑进 16GB 消费级电脑(2 条相关)→
「编程与Agent」频道最新
- 用 iPhone LiDAR 做攀岩 3D 分析:开源视觉工具链解读 — dosco · 2026-09-25
- 扩散架构推理提速:Augment Code 换用 Mercury 2.5,延迟降 82% 成本降 90% — cen6wkf · 2026-09-25
- 研究者自曝:时序预测让 Agent 编排优化连连翻车 — RexDouglass · 2026-09-25
- AI 动画创作者分享动作戏分镜工作流:先生成 storyboard 再出视频 — Educational_Wash_448 · 2026-09-25
- AI 搜索初创 Octen 促销价 1 美元可搜 1000 次 — kimmonismus · 2026-09-25
- IterSynth:角色解耦的深度搜索智能体,8B 模型超越此前最强同行 — ZJU-REAL · 2026-09-25