GPU 藏在衣柜、面板装口袋:ModelDeck 把本地多模型推理搬进手机
EAccelerate_42 · x · 2026-09-05
开发者展示自制应用 ModelDeck:把自家衣柜里的 GPU 服务器变成随身 AI 控制台,手机端可加载、切换、串流多个本地模型,实时显示 VRAM 和温度。支持 DeepSeek V4 Flash(384K 上下文)、Qwen3.8 27B(NVFP4)、GLM-5.3 Flash,以及 Qwen-Image 图像编辑和带音轨的 MiniMax H3 视频生成。全程仅经 Tailscale 访问,不上云、无 token 账单,即将开放抢先体验。
「Infra」频道最新
- AMD Strix Halo 跑 Qwen3.8 27B：作者开源完整优化方案 — ilintar · 2026-09-05
- 开源无头浏览器 Lightpanda:比 Chrome 快 11 倍、省 9 倍内存 — JafarNajafov · 2026-09-05
- 腾讯混元 Hy4 预览版:770B 参数、1M 上下文、Apache 2.0 开源 — Aiden_Tech_Ai · 2026-09-05
- 十亿美元单模型训练预言提前兑现,NVIDIA 预测也失准 — IgorCarron · 2026-09-05
- 用阁楼旧硬件起步本地 AI：3 台 NUC + 3700X 怎么组最划算 — -markusb- · 2026-09-05
- ZenMux 推出 API 聚合服务：自动故障切换，幻觉输出可返积分 — testingcatalog · 2026-09-05