llmaker：一条命令从终端自托管整套现代 LLM 服务栈
raiyanyahya · reddit · 2026-08-22
开发者 raiyanyahya 发布开源项目 llmaker，定位是「从终端自托管现代 LLM 技术栈」，可用一条命令拉起并管理整个 LLM 服务舰队（fleet），降低本地部署推理服务的门槛。
项目地址：github.com/raiyanyahya/llmaker
「Infra」频道最新
- Anthropic 招聘前 TPU 领军者，进军自研 AI 芯片 — Pablomiller · 2026-08-22
- 爆料称马斯克已与 ASML 达成协议，购买大量光刻机设备 — burhop · 2026-08-22
- UBS 预测 2028 年 AI 基建支出 4.1 万亿，忽视电力瓶颈 — Servola-Journal · 2026-08-22
- 民调：75% 美国人反对数据中心 — pstAsiatech · 2026-08-22
- 马斯克预警：AI 算力激增将导致电力供应吃紧 — BLUECOW009 · 2026-08-22
- 修复 MTP 头，Ornith1.5 35B 推理耗时降 33% — frankentriple · 2026-08-22