一人开发全 Rust 系统:本地跑 Qwen 比 llama.cpp 快 25%
W61k3r · reddit · 2026-11-07
独立开发者发布 LexiSuite AIO:一个可启动的全 Rust 操作系统/引擎/内核组合,内置本地大模型训练与调优管理。默认运行 kernel 7.4 rc1(作者称内核仍需完善)。
关键声称:
- 引擎运行 Qwen3.8 27B 时比 llama.cpp 无损快 5-25%
- 在 7900XTX 上可利用显卡约 90% 带宽,而 llama.cpp 仅约 80%
- 基于 7900XTX Vulkan 开发,理论上兼容其他 AMD 卡;代码中还包含 NVIDIA、Intel 及国产硬件支持,支持 20 种语言
使用方式:用 balenaEtcher 等工具写入 USB 启动盘直接引导测试。目前为 100% 一人独立完成,作者邀请社区测试并反馈。
「Infra」频道最新
- HyperFlow H3 Flash 发布:13.7B 少步数模型同时生成视频与立体声 — Apprehensive_Sky892 · 2026-11-07
- JITEngine 为 Apple Silicon 按需合成推理引擎,实测快至 2.7 倍 — AccBalanced · 2026-11-07
- 开发者预言:2027 年本地推理将软硬件一体化,即插即用成胜负手 — vincent_koc · 2026-11-07
- vLLM Office Hours 已办 59 期:76 位嘉宾 24 家机构参与的双周直播 — vllm_project · 2026-11-07
- 开发者把 284B 参数 DeepSeek 模型塞进 64GB 内存,零 GPU 跑通 — solyarisoftware · 2026-11-07
- Omnigraph 开源:带 git 式分支的图数据库,多 agent 共享世界模型 — solyarisoftware · 2026-11-07