开发者搭 1TB 内存家用机架,考虑开源面向 DeepSeek 的推理引擎
gnukeith · x · 2026-11-08
独立开发者 gnukeith 展示了自己的家用推理集群进展,并预告未来计划:
- 刚装好一个 12U 机架和 4 台 Framework DeskPi RackMates,1 月继续扩容,实现 1TB 内存的"梦想";后续打算用 Medusa Halo 替换部分桌面机。
- 正考虑开源自己写的推理引擎,但犹豫其对生态的价值——引擎主要针对 DeepSeek V4.1 Flash 和他非常小众的本地硬件配置优化。
- 更多细节将在 11 月底/12 月初公布,整体规划做到了 2029 年,并期待硬件降价。
所属事件:开发者搭建家用机架剑指 1TB 内存推理集群(2 条相关)→
「Infra」频道最新
- Google Brain 老话:先证明你用好了现有算力,才配拿到更多 — karinanguyen · 2026-11-08
- RTX 3060 跑 DeepSeek V4.1 Flash Q8:Prefill 从 3 tok/s 提速到 62 — zyxciss · 2026-11-08
- 数据中心越难建越利好超大规模厂商：算力持有者将成大赢家 — adityaag · 2026-11-08
- Chamath：中期选举后数据中心冻结将利好超大规模云厂商 — rohanpaul_ai · 2026-11-08
- CoreWeave 致信德州当选州长，承诺自担基建成本并采用闭环液冷 — firstadopter · 2026-11-08
- compute.cx 让 AI Agent 自主租用 GPU：跨 Runpod/Vast.ai 一条命令跑训练 — hargup13 · 2026-11-08