ENZO 开源自托管 AI 工作台,免费 API 与本地模型同列表混跑
anonymous20256 · reddit · 2026-11-21
一位 Reddit 开发者开源了自托管 AI 工作台 ENZO(GitHub 122 星),目标是免订阅复现 GPT 全家桶体验:聊天、带引用来源的 research、编码与 agent,无需为每家供应商手写胶水代码。
核心痛点与方案
- 各家 API 认证头、模型列表端点、限流行为各不相同;本地侧还要受显存限制。
- ENZO 把所有 OpenAI 兼容源规范化为统一的健康检查目录:免费档(NVIDIA NIM、OpenRouter、Groq)与本地运行时并列。
- v1.7.0 新增 CUSTOMAPIBASEURL,ollama / lm studio / vllm / llama.cpp 均可作为一等供应商接入,密钥在浏览器端 AES-256-GCM 加密,本地运行时通常无需密钥。
实测与量化观察
- 在 24GB M4 Air 上经 ollama 跑 Qwen3 8B(14B 会爆显存);作者指出量化等级下降时,Qwen3 8B 在多步工具调用循环中的衰减比纯聊天更快。
- 免费档供应商提供的主要恰好是这些本地跑不利索的开源模型,正好互补。
「编程与Agent」频道最新
- Codex WebSocket 上限提至 1GB,大幅优化大任务速度 — charliermarsh · 2026-11-21
- Codex 将 WebSocket 请求上限从 16MB 提至 128MB,大幅减少回退 HTTP — charliermarsh · 2026-11-21
- Neon 扩缓存池:Antigravity 缓存命中率升约 4%,配额可用量提升至少 20% — cgarciae88 · 2026-11-21
- Agent 评测公司 ArcFront 发布,一年内五家前沿实验室 four 成客户 — eptwts · 2026-11-21
- PostHog 工程师自述转岗 AI 产品工程:门槛没想象高但要会写 evals — rseroter · 2026-11-21
- NEJM AI:心脏科医生凭 vibe coding 获编程赛第三,但距临床产品还很远 — zakkohane · 2026-11-21