100GB+ 内存能跑什么规划模型？Reddit 征集本地部署方案
GodComplecs · reddit · 2026-10-17
Reddit 用户征求建议：在 100GB+ RAM/VRAM 的配置下，最适合做规划（planning）的本地模型是什么？用途以科研为先、编程次之（主要用于制定方案），要求推理速度至少 10 tokens/s。帖内寻求大家正在运行的具体方案。
「Infra」频道最新
- 16GB 显存也能跑 4K 60FPS 视频生成，Reddit 用户分享方法 — LanceCampeau · 2026-10-17
- YC 新作 Oway 打造工业互联网层，首个模型已省运费 30% — ycombinator · 2026-10-17
- Visko 携手 Google Cloud,实时世界生成模型 Orbis 跑上 TPU — _vztu · 2026-10-17
- 分析师撰文回应「CoreWeave 会死吗」：判断是不会 — ivan_bezdomny · 2026-10-17
- AI Agents 迎来「Kubernetes 时刻」：Agent 逻辑正下沉到平台层 — bibryam · 2026-10-17
- 推理服务商只能二选一:快(Groq/Cerebras)或便宜(CoreWeave) — AccBalanced · 2026-10-17