本地部署选型清单：从聊天到语音,七个场景各配一个开源模型
alex_verem · x · 2026-11-14
alexverem 给出一份本地模型搭配速查：
- 日常聊天：Qwen3.5 9B
- 编程：Qwen3.6-35B-A3B（MoE 小激活）
- 旧笔记本与手机：Gemma 4 E4B
- 图片与文档理解：MiniCPM-V 4.7
- 语音合成 TTS：Kokoro
- 语音识别 STT：Whisper
- 服务器级任务：DeepSeek V4.1 Flash
按设备条件和使用场景把各开源模型各就各位，可作为本地部署的入门参考。
「Infra」频道最新
- 云报告在测错指标：混合云常是历史包袱而非战略 — DavidLinthicum · 2026-11-14
- Will Depue 被怼「2-3K 卡不算数据中心级」，爆粗回怼 Teortaxes — teortaxesTex · 2026-11-14
- NVFP4 量化版 Qwen3.8-Flash 在 V100 上实测:prefill 快得惊人 — Scobleizer · 2026-11-14
- 1997年花100万美元买"假芯片"救了Nvidia,黄仁勋的豪赌往事 — bigaiguy · 2026-11-14
- SGLang Summit 2026 周边徽章曝光：CUDA OOM、KV Cash 全成了收藏品 — ying11231 · 2026-11-14
- 英伟达 5000 亿美元 GPU 借贷联盟搁浅，零成交且多家 lender 拟退出 — SumitGup · 2026-11-14