Magnitude 开源推理服务器:让本地模型一键接管你的编程智能体

nickbaumann_ · x · 2026-09-03

开源项目 Magnitude(GitHub 已 1.6k star)提供一个推理服务器,为你的硬件自动匹配并运行最优本地模型,接入现有编程智能体。作者 tomgreenwald 演示将其 Hermes agent 切换为 100% 免费本地模型,在 DGX Spark 上跑 Qwen 3.6 35B-A3B,速度约 60 tok/s,免费、私有、常驻后台任务。

亮点在于 agent 自己完成迁移:通过 CLI 分析硬件、推荐模型、引导确认后自行切换;模型按需加载、空闲卸载。兼容 Pi、OpenCode、Hermes、OpenClaw、Codex、Claude Code、Oh My Pi、Cline。

作者还给出可直接发给 agent 的 prompt:用 npm i -g @magnitudedev/cli 安装后运行 magnitude docs onboarding,让 agent 照文档自行完成配置。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →