单张3090跑Qwen 3.6 27B:速度、量化与上下文长度实测预期
oldschooldaw · reddit · 2026-08-12
Reddit用户询问单张3090运行Qwen 3.6 27B的实际性能,指出基准测试常使用1024上下文导致速度虚高。讨论涉及实际速度、量化级别和上下文长度,帮助用户设定合理预期。
「Infra」频道最新
- 曝 SpaceX 正在建设新超算中心,将容纳 22 万块 GB300 GPU — chrisgrayson · 2026-08-12
- 6xGB10 768GB配置曝光,AI硬件新选择 — AIFlow_ML · 2026-08-12
- 港中文提出Libra系统:AgenticRL后训练吞吐最高达基线3倍 — 机器之心 · 2026-08-12
- 安全护栏税:企业AI安全开销比推理更耗算力 — vasilisvj · 2026-08-12
- Vinci Physics实现33亿体素推理,线性扩展预测超百亿FP64 — AnneliesGamble · 2026-08-12
- ODS 项目一键整合 Ollama 与 n8n,将电脑变成本地 AI 服务器 — tom_doerr · 2026-08-12