5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s
hereforcheesee · reddit · 2026-10-18
作者用 PCIe 延长线把旧 3070 挂在机箱外（仅 x1 速率），与 5070 Ti 组成混搭双卡，用 Ollama/llama.cpp 做层切分跑本地 LLM。
- 模型：Qwen 3.6 35B-A3B（MoE，激活参数约 3B），16k 上下文下达到约 82 tok/s
- x1 带宽足够，因为层切分卡间数据传输量很小
- 现状：约 23% 层溢出到系统内存，3070 还有约 4GB 显存未利用，尚未调 split 比例
- 后续计划：给 3070 配个外接盒子
「Infra」频道最新
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片：最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18