1.1k星本地LLM资源大全：平台、推理引擎、UI一站式收录
tom_doerr · x · 2026-09-02
GitHub 仓库 LLMs-local（1.1k stars）整理了本地运行大模型的完整目录：推理平台（LM Studio、jan、LocalAI、ChatBox、lemonade 等）、推理引擎（ollama 等）和各类用户界面，覆盖编码、多模态、Agent 框架、MCP、RAG、记忆管理、评测观测、微调训练与硬件教程等类目，适合想在本地部署 LLM 的开发者按图索骥。
「Infra」频道最新
- SkyPilot 推出 Agent Sessions:断线后编码 Agent 继续跑在自家 K8s 上 — skypilot_org · 2026-09-03
- 游戏显卡跑赢 hipBLASLt:博客详解 GPU 矩阵乘法优化 — Moist_Weird_42067 · 2026-09-03
- Modal 实习生复盘：环境级预算设计与 agent RL 后训练实践 — dejavucoder · 2026-09-03
- 边缘 AI 杀不死云端 Capex：五大论据反驳云杀手论 — yangastas_paradise · 2026-09-03
- 用自托管 Immich 替代 Google Photos,博主详解省钱方案 — speckx · 2026-09-03
- Microduck 积压非深圳产能问题,而是注塑模具尚未完工 — _akhaliq · 2026-09-03