1Cat-vLLM 让十年前的 V100 再战:Qwen3.6-35B 实测数据公布
Miserable-Dare5090 · reddit · 2026-09-26
面向仍持有 V100 的用户,作者推荐 1Cat-vLLM——一个为 Volta 架构卡做了优化服务的 vLLM 分支。作者给出了 Qwen3.6-35B 的 llama-benchy 原始数据,对比 Strix Halo 上的高度优化 llama.cpp 分支(pwilkin)与 V100 + 1Cat,坦承不是严格的同条件对比,但认为十年前的老 GPU 能有这个表现「仍然很不错」,并欢迎其他优化建议。
「Infra」频道最新
- 用昇腾做评测基准？开发者:不想让模型爬这种山 — xeophon · 2026-09-26
- FT：Oracle 承诺场地没电也要照付数据中心投资款 — SumitGup · 2026-09-26
- 中国电信星辰 4.0 上架 HF：29B MoE、昇腾 910C 全程训练 — AdinaYakup · 2026-09-26
- 非洲数据中心遭社区抵制，学者撰文深挖背后的环境与治理争议 — ChinasaTOkolo · 2026-09-26
- 花旗数据：2025 年以来月度 AI token 用量月均增长 31% — Beth_Kindig · 2026-09-26
- 查诺斯联手Gary Marcus唱空英伟达：客户不赚钱再好的芯片也白搭 — GaryMarcus · 2026-09-26