用 Docker Model Runner 在本地跑开源 LLM 并搭 Agent，lenna.cpp 与 vLLM 后端免费切换
juntao · x · 2026-10-14
开发者 juntao 发布/更新了一套 Manning Socratic liveProjects 教程，教读者在自己的电脑上运行开源权重 LLM 并用它构建 Agent。他推荐所有最佳示例都基于 Docker Model Runner：免费、开箱即用、同时自带 llama.cpp 和 vLLM 两个推理后端，并有自带的模型仓库，对想本地部署和做 Agent 开发的人来说门槛很低。
「编程与Agent」频道最新
- AI 贡献者激增:开源项目加 auto-research.md 提示词引发 PR 指数增长 — IgorCarron · 2026-10-14
- NetworkChuck 用 CheckMK 监控 AI Agent：模型订阅、定时任务与记忆健康 — alexcovo_eth · 2026-10-14
- 用 Alchemy 自定义资源给每个 PR 预览配独立数据库，成本固定不变 — samgoodwin89 · 2026-10-14
- Arena Fighter：让 AI 编码代理写 bot 互殴的竞技场 — tristanbob · 2026-10-14
- Gusto 发布多客户 MCP,会计可把 Gusto 接入自选 AI 工具 — dunkhippo33 · 2026-10-14
- Claude Code 三模型分工玩法:Sonnet 写码、Haiku 侦察、Opus 审查 — Arindam_1729 · 2026-10-14