RTX 3080 20GB 解锁 P2P 后 prompt 处理提速 70%~115%
No-Refrigerator-1672 · reddit · 2026-10-26
- Reddit 用户 u/nathannguyennng 为魔改 RTX 3080 20GB 解锁了 ReBAR 与 P2P 支持,作者代发实测:在 tensor parallel 模式下 prompt 处理速度较原厂提升 70%115%。
- 测试平台为双 RTX 3080 20GB(限 240W)+ Threadripper,vllm 0.32.0 运行 Swift-1.5-Qwen3.8-27B-AWQ-INT4,开启 MTP 与 FP8 KV cache。
- 8192 token 时 prefill 从 967 tok/s 升至 2080 tok/s(+115%);仅 gpu-unlock 本身也有 21%29% 提升。解码速度(ITL)受 MTP 接受率影响,变化不大(-4%+7%)。
- 提供完整 vllm 启动命令与三组配置对照表,工具为开源的 gpu-unlock、3080-20gb-rebar、3080-20g-p2p 仓库。
「Infra」频道最新
- Tailscale 工程副总裁回应 SSH 漏洞疑虑:暂无需全员禁用 — basedjensen · 2026-10-26
- 劳登县居民竖牌抵制电网扩建,数据中心扩张遭遇阻力 — DavidLinthicum · 2026-10-26
- ComfyUI 插件把 20GB 视频模型锁进显存,镜头切换从 7.3s 降到 0.4s — LatentForge-Dev · 2026-10-26
- Meta Muse Spark Open 上线 Baseten Loops:自定义奖励函数后训练 — baseten · 2026-10-26
- HN 热议:宽事件优于指标、日志、追踪三件套的可观测性思路 — bootlegbilly · 2026-10-26
- vLLM 跑 DeepSeek v4.1:解码速度比 SGLang 快 10-20% — morgymcg · 2026-10-26