Qwen 27B dense在RTX 3090上跑出40 tok/s，本地AI的浪漫
danbri · x · 2026-08-14
作者分享在RTX 3090上运行Qwen 27B dense模型的体验：3月时35 tok/s，4月提升至40 tok/s，21GB显存占用，可加载完整262k上下文。强调dense模型所有参数参与计算，性能可预测，且无需联网或订阅。认为这是本地AI的典范。
「模型」频道最新
- anon-1b:用 4chan greentext 微调的 Gemma 开放权重模型 — rickasaurus · 2026-10-16
- 爆料称格局逆转:Astra 6.1 延期,OpenAI 前沿 RL 因安全暂停 — haider1 · 2026-10-16
- Span-02 主打「按截止时间推理」：开放权重决策模型，报告带置信度 — HeyAmit_ · 2026-10-16
- 开发者观察:Clunde 写医疗应用零 bug,娱乐点子却漏洞百出 — repligate · 2026-10-16
- 上海 AI Lab 发布 Intern Lumina U2:单模型统一图像视频 3D 理解与生成 — Shanghai-AI-Laboratory · 2026-10-16
- TWiT 播客拆解 Gemini 4、OpenAI Dots 智能体与 Anthropic IPO 泄露文件 — LouMM · 2026-10-16