手机替代云端 AI:llama.cpp+OpenWebUI+Tailscale 自建本地方案
GodComplecs · reddit · 2026-10-02
Reddit 用户分享一套手机端使用本地 LLM、摆脱 Google AI 等大厂服务的简易方案：
- PC 上跑 llama.cpp 后端（0.0.0.0:8080）+ OpenWebUI（0.0.0.0:8081），并开启本地模型搜索
- 用 Tailscale 组网，从手机直接访问家里的本地模型
- 24GB 显存的「秘方」：跑 unsloth 提供的 Qwen 3.6 instruct/非思考模式并配好参数，即可获得接近云端的使用体验
- 作者称这套组合可完全替代 Google AI Mode 等云端入口；opencode 等终端工具同样可以走这套通道（但他暂时没怎么跑 agentic 任务）
「Infra」频道最新
- MachGen 让 MiniMax H3 突破 15 秒上限，实现 30 秒连续视频 — MiniMax_AI · 2026-10-02
- 网友用两台 DGX Spark 加 5090 搭出全本地 LLM 电台 — jwhh91 · 2026-10-02
- 投资人吐槽:多数 neocloud 可靠性只有“九个五”,远不到五个九 — saranormous · 2026-10-02
- 传贷方要求 NVIDIA 芯片贷款需 25% 抵押,算力融资链现裂缝 — GaryMarcus · 2026-10-02
- 微软携 Snowflake 推商业指标标准化，助 AI 工具读懂企业数据 — xiaosun86 · 2026-10-02
- GLM-5.3-Flash NVFP4 实测：并发超 8 后单用户速度不再提升 — TheZachMueller · 2026-10-02