开源项目 DynaLM:纯 CPU 本地跑 LLM 的推理引擎求测试
Unlikely_Safety_7456 · reddit · 2026-10-23
开发者发布开源项目 DynaLM,一个 CPU 优先的 LLM 本地推理引擎,不依赖 GPU,提供原生 CPU 优化、模型支持与 OpenAI 兼容 API。作者明确表示不宣称比现有运行时更快,而是征集社区独立测试:多平台 CPU 性能复现、推理与 kernel 实现评审、排查 bug 与性能瓶颈等。仓库位于 dynalm-projects/dynalm,欢迎熟悉推理运行时和 C++ 系统开发的人反馈。
所属事件:开源 DynaLM:无需 GPU 的纯 CPU 本地 LLM 推理引擎(2 条相关)→
「Infra」频道最新
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋拆解 NVIDIA Vera Rubin 智能体系统四大组件 — rohanpaul_ai · 2026-10-23
- Transformers.js 一条龙:ONNX 模型直接跑进浏览器 — JosephJacks_ · 2026-10-23
- MiniMax M3.1 Flash 在 0G 平台限时免费 3 天,1M 上下文随便跑 — MiniMax_AI · 2026-10-23
- 「押注 Cloudflare 拿到十亿级规模」:R2 与 D1 的老兵回忆杀 — dinasaur_404 · 2026-10-23
- 公开数据日渐枯竭,私有数据交易正在变成目录式电商 — SucceededMind · 2026-10-23