开源引擎 Magnitude：先测你的硬件能跑什么本地模型，再自动下载调优
nickbaumann_ · x · 2026-09-19
Magnitude 是一个 100% 免费开源（Apache 2.0）的桌面推理引擎，专为消费级硬件优化，macOS/Windows/Linux 原生支持 Apple Silicon、NVIDIA、AMD 乃至纯 CPU 机器。
核心差异化：不像 Ollama/LM Studio 只「运行你选的模型」，它会先帮你选——分析硬件配置、在下载前估算每个模型的 tok/s，并按速度、准确性、智能程度和内存排序推荐。选定后自动完成下载与端到端调优（上下文长度、投机解码等参数按机器配置设定）。
其他特性：支持一键接入 Pi、OpenCode、Hermes 等编码 agent，模型按需加载、空闲或内存吃紧时自动卸载；完全离线运行，无 token 费用、API key 和速率限制。
「Infra」频道最新
- AI Infra 峰会访谈：Penguin 与 Astera Labs 押注 CXL 内存扩展方案 — BenBajarin · 2026-09-19
- 美国芯片业闹人才荒：仅 3% 工科生选芯片，其余都去做 AI — ns123abc · 2026-09-19
- Jev 可替代本地模型做低延迟应用,开源 RLCD 版本可期 — HankYeomans · 2026-09-19
- Arduino Ventuno Q 实测：Hexagon NPU 跑端侧 VLM 推理 — HowDevelop · 2026-09-19
- GPU 涨价殃及 1080ti,本地模型推理速度实测清单流出 — HankYeomans · 2026-09-19
- Bonsai 2 27B 量化版实测:7GB 内存跑出远超同级 3D 生成质量 — Fun-Meaning-6474 · 2026-09-19