LexiSuite:纯 Rust 自研内核,AMD GPU 长上下文推理反超 llama

W61k3r · reddit · 2026-11-17

Reddit 用户发布 LexiSuite(Hugging Face: Wa1k3r/LexiSuite),宣称在 AMD GPU 上对 Qwen 和 Gemma 的推理速度超过 llama.cpp、llama 变体和 Strata。项目专为 262k–525k 超长上下文推理的稳定性设计,无任何第三方代码——从 Rust 编写的操作系统、内核、推理引擎到 headless 管理套件全部原创。用法:下载镜像、装入虚拟机或 U 盘、启动后读控制台、打开 Web 面板、下载模型即可推理。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →