HyperQwen 项目招募 4090/5090 用户优化 Qwen 本地推理速度
iamMess · reddit · 2026-09-18
Reddit 用户 iamMess 宣布将其针对 RTX 3090 的 Qwen 推理优化项目更名为 HyperQwen,从单一显卡/单模型扩展到面向多种 Qwen 模型和本地硬件。
作者招募拥有 4090、5090(单卡或多卡均可)的 Windows 和 Linux 用户帮忙测试,目标是追求最大 decode 和 prefill 速度;鉴于 Qwen4 即将发布,该仓库有望成为获取极限推理速度的参考。
「Infra」频道最新
- B200/H100 租金周内创新高,年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍,特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02