开发者 fork 推理项目 ninfer:更快推理并支持 Qwen3.8-Flash
giveen · reddit · 2026-09-27
发帖人在 ninfer 之上构建了 ninfer-ext,带来更快的推理和对 Qwen3.8-Flash 的支持。作者坦言并非在所有场景下都更快,但仍有改进空间。项目开源于 GitHub。
「Infra」频道最新
- Superpower 打造 42MW 中型燃气轮机:110F 环温无水运行 — ycombinator · 2026-09-27
- llama.cpp 合并为 Nemotron 3 支持 96 状态尺寸 ssm_scan — jacek2023 · 2026-09-27
- Lei.Chat 上线 DeepSeek V4、GLM 5.3、Kimi K3 交互式架构图鉴 — zhyncs42 · 2026-09-27
- 用 NixOS 装 DGX Spark:开源项目提供 USB 镜像与 Nix 模块 — _nateraw · 2026-09-27
- Nature 论文实现光子神经网络片上反向传播端到端训练 — jwt0625 · 2026-09-27
- RTX 3060 本地跑 MiniMax H3:540p 渲染 20 秒耗时 15 分钟 — Adventurous-Rich-965 · 2026-09-27