LM Studio 更新后 Qwen 推理速度从 20 tps 掉到 5 tps
No_Cartographer3953 · reddit · 2026-11-21
用户报告 LM Studio(Strata)最新更新后,原本能跑约 20 tps 的 Qwen FN Q8 模型在启动模型列表中已不可选,通过已有下载继续运行时速度骤降至约 5 tps。目前不确定是版本回归还是量化/后端变更导致,正在社区求证是否有其他人遇到相同问题。
「Infra」频道最新
- 算力过剩论者改口:效率每年 4 倍提升,10 年后 10 亿美元算力工作降至千元 — teortaxesTex · 2026-11-21
- 华为算力平台论文渐多,Jack Clark 提及 AscendGym 值得关注 — willknight · 2026-11-21
- AWS 推出分布式 KV 缓存技能:自托管 LLM 成本降 40%、首 token 延迟降 80% — AWS ML Blog · 2026-11-21
- 博主:数据中心年化回报 80-100%,是地球上最值钱资产 — sudoraohacker · 2026-11-21
- 清华×字节 SMELT 论文:MoE 中层循环两次省 6.8–18% 训练 FLOPs — teortaxesTex · 2026-11-21
- 英伟达 33 个交易日蒸发 2.8 万亿美元市值,创史上最大纪录 — garrytan · 2026-11-21