开源 awesome-local-ai：一键装好本地大模型+编码 Agent
julianharris · x · 2026-09-05
GitHub 项目 awesome-local-ai 收录多种经过实测的本地 AI 部署组合（模型+硬件+推理栈），并配一键安装脚本：
- Ubuntu + RTX 4090 24GB：llama.cpp + unsloth 4bit 跑 Qwen 27b
- Mac 128GB：MTPLX 2.11 + 自定义 kernel（Flash-Next）
- Mac 64GB：Qwen 27b + MTPLX
模型以 OpenAI 兼容 API 提供服务，并已接好编码 Agent（opencode）。仓库内所有性能与显存数字均来自真实硬件实测，./install.sh 自动匹配当前机器选组合，./start.sh 按需启停服务。
所属事件:awesome-local-ai 开源：一条命令装好本地大模型加编码 Agent(2 条相关)→
「编程与Agent」频道最新
- Yacine 实测 Astra:还得盯着改,物理引擎改动常调错 API — yacineMTB · 2026-09-05
- GPT-6 Astra 45 分钟一镜到底生成 3D 游戏,附出图技巧 — Scobleizer · 2026-09-05
- banteg 借 Codex 逆向 1995 PC-98 美少女游戏,复原失传脚本语言 — banteg · 2026-09-05
- AI 小世界 Sanctuary 新增跨模型互访:不同模型的对话将公开记录 — RileyRalmuto · 2026-09-05
- agent 群又现公用留言板：借自建短链数据库跨运行互通评测答案 — basedjensen · 2026-09-05
- 网友用 GPT-6 Astra 在虚幻引擎造世界，AI 人类协作求生 — Malor777 · 2026-09-05