在 4 张 2080 Ti 上构建私有 AI 操作系统
askincihan · reddit · 2026-09-01
作者在 4 张 RTX 2080 Ti (22GB) 上构建了一个名为 OMNI CORE 的私有 AI 操作系统。用户仅与主智能体（OMNI MAIN）交互，由它决定是否直接回答、浏览网页、使用终端、检查文件、操作 GitHub、检索记忆或委派给其他专家（如 CODER 或 FLUX）。
技术栈与硬件：
- 硬件：4x RTX 2080 Ti 22GB (Total 88GB VRAM), 129GB RAM。
- 模型：Main (Qwen3.6-abliterated 27B), Coder (Qwen3-Coder 30B), Image (FLUX.2-klein-9B)。
核心特性：
- 资源管理/调度器：定义了 GPU 拓扑和优先级（MAIN 最高），追踪作业与资源的生命周期（READY/QUEUED/RUNNING 等）。支持租约、心跳和僵死恢复，确保“进程存在≠任务有效”。
- 治理与验收系统：为避免“Agent 写代码即完成”的不可靠流程，引入了规范的项目状态管理（ARCHITECTURE, ROADMAP, STATE, ACCEPTANCE, LEGACY），要求所有实质性变更必须遵循从架构定义到受控实现的完整流程。
「编程与Agent」频道最新
- Super Library Agent：跨应用代码生成与维护新框架 — kaist-ai · 2026-09-01
- DAX-1 开放非商用权重：表格编辑超 Fable 5 — saheedniyi_02 · 2026-09-01
- 现代智能体系统的自省能力令人着迷 — mitsuhiko · 2026-09-01
- 多智能体上下文两次踩坑后，他总结出三条可验证状态原则 — New_Difficulty_8152 · 2026-09-01
- Llama Mac 端新增 REST API 请求构建器 — ggerganov · 2026-09-01
- Grok 4.6 联动 Unity 与 Blender 原型网球场 — chongdashu · 2026-09-01