LexiSuite:纯 Rust 自研内核,AMD GPU 长上下文推理反超 llama
W61k3r · reddit · 2026-11-17
Reddit 用户发布 LexiSuite(Hugging Face: Wa1k3r/LexiSuite),宣称在 AMD GPU 上对 Qwen 和 Gemma 的推理速度超过 llama.cpp、llama 变体和 Strata。项目专为 262k–525k 超长上下文推理的稳定性设计,无任何第三方代码——从 Rust 编写的操作系统、内核、推理引擎到 headless 管理套件全部原创。用法:下载镜像、装入虚拟机或 U 盘、启动后读控制台、打开 Web 面板、下载模型即可推理。
「Infra」频道最新
- 1100 台 M3-M5 Mac 组网:推出苹果硅沙箱,比 Blacksmith 便宜 75% — gajesh · 2026-11-17
- 「代码公开≠权力分散」:开源模型难破算力集中之门 — tallmetommy · 2026-11-17
- 新加坡求援美国查 Megaspeed 芯片转售,消息称华盛顿未提供实质协助 — thione · 2026-11-17
- OpenAI 部署 Control Room:干预决策后 35 秒内可急停模型输出 — thione · 2026-11-17
- 前 OpenAI 研究员据权重分析称 DeepSeek 等四家中国实验室用过 Blackwell GPU — thione · 2026-11-17
- Fireworks AI 确认遭黑客入侵:账单信息泄露,部分客户数据集与残缺权重被访问 — thione · 2026-11-17