Eugene Plexus 开源公测:用一个浏览器界面管理多机本地推理
ScreamingAmish · reddit · 2026-09-22
作者发布了 Eugene Plexus(v0.1.0-alpha.2)公测,一个管理本地推理的开源控制平面:整合模型发现与下载、推理引擎配置、模型启动,并提供 OpenAI 兼容和 Anthropic 兼容端点的网关,供应用接入。支持 Windows/Linux 单机,也可把控制平面部署在 Docker/NAS 上连接多台机器跑模型。
作者重点征集的反馈方向:
- 能否仅凭安装文档完成安装、加载模型并得到首次回复
- 能否接入已有应用
- 出错时提示信息是否足够定位问题
- 是否真的解决了你的问题
macOS 测试者尤其受欢迎:alpha 包含 macOS 安装包和 llama.cpp/Metal 推理路径,但尚未在实体 Mac 上验证;MLX 支持在独立分支开发中。安装地址 eugeneplexus.com/install,源码与 issue 在 GitHub 的 eugene-plexus/specs 仓库。
「Infra」频道最新
- 用大鼠脑细胞造 AI,TBC 模型上线 AWS 有限预览 — nordicinst · 2026-09-22
- Cerebras 战略官：安全测试正成为算力厂商的新增长点 — RihardJarc · 2026-09-22
- 拆散实时语音栈成本降 14 倍,意外收获是文本层护栏 — Cloudsurfer_90 · 2026-09-22
- 黄仁勋：吉瓦级 AI 工厂投资高达 50-60 亿美元架构必须可通用 — nvidia · 2026-09-22
- FreeToken 分支支持 DeepSeek-V4.1 与投机解码,2x3090 实测数据公开 — ApeGrower · 2026-09-22
- Bloomberg 视 Nvidia 低市盈率为危险信号，博主反称低估值更诱人 — firstadopter · 2026-09-22