社区分支支持 MiniMax H3 双 GPU 推理与实时预览
karma3u · reddit · 2026-08-30
这是一个专注于在双 GPU 消费级系统上运行 MiniMax H3 的 Raylight 社区分支。主要特性包括 Raylight 统一序列并行 (USP)、Ulysses 感知稀疏线性注意力、H3 块缓存以及 K3U 适配器兼容桥。新增功能支持在分布式采样过程中通过 KJNodes 获取实时的 TAEH3 渐进式预览。项目强调稳定性，仅允许经过单独测试的集成，并欢迎其他双 GPU 用户反馈测试结果。
「Infra」频道最新
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 传 Nvidia 本周宣布数百亿美元欧洲 AI 投资 — georgemillo · 2026-10-15
- Cloudflare 一夜 $10,811 账单：退款靠运气，刹车得自己装 — sujingshen · 2026-10-15
- 阿姆斯特丹大学新方法:Transformer 免再训练变身弹性模型 — VISLab-Amsterdam · 2026-10-15
- vLLM MTP3 验证:AIME25 提至 0.9667,prefill kernel 延迟最高降 84% — vllm_project · 2026-10-15
- 26ms 决策模型 s1-llm-auto-router 开源，为请求自动选 LLM — airesearch12 · 2026-10-15