开源 DynaLM:不依赖 GPU 的 CPU 优先 LLM 推理引擎

Unlikely_Safety_7456 · reddit · 2026-10-23

开发者发布开源项目 DynaLM,一个 CPU 优先的本地 LLM 推理引擎,目标是在无 GPU 依赖的机器上运行大模型,采用原生 CPU 优化,并提供 OpenAI 兼容 API。

作者明确表示不声称比现有推理运行时更快,而是希望社区帮助:

项目地址为 dynalm-projects/dynalm,欢迎从事推理运行时或 C++ 系统开发的开发者参与。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →