Android 端 LLM Studio:离线跑模型、本地生图还能当 AI 服务器
Miserable_Bird5822 · reddit · 2026-09-18
开发者 MiserableBird5822 在 Reddit 发布免费 Android 应用 LLM Studio,主打在手机本地运行 AI 模型:
- 离线对话:下载或导入兼容模型(支持 GGUF),无需联网和云端服务即可聊天
- 手机变 AI 服务器:内置 API,可把自己的工具和项目接到手机上的模型
- 本地生图:支持在设备上运行扩散模型做文生图
- 真机 benchmark:对比加载时间、文本生成速度和生图耗时,自动调优运行参数
另有模型目录、聊天历史管理和 HTML/CSS/JS 项目交互预览。应用完全免费(模型目录有广告,无内购)。作者提醒:实际速度和兼容性取决于手机 RAM,生图对硬件要求更高,并征集大家分享「手机+模型+跑分」结果。
「Infra」频道最新
- Creative Strategies 看多 Credo:掌控铜缆与光学全栈设计是关键 — BenBajarin · 2026-09-18
- 前开发者加入 Gimlet Labs,打造用混合芯片的异构推理系统 — snowclipsed · 2026-09-18
- AWS Trainium3 机架系统亮相,custom silicon 机架级竞赛开启 — BenBajarin · 2026-09-18
- Siemens EDA 调查:芯片首次流片成功率骤降至仅 5% — ai · 2026-09-18
- Google 联手 Speakeasy 将整套 OpenAPI SDK 生成工具开源 — _philschmid · 2026-09-18
- 开发者自建 CUDA/Rust 推理栈,目标把 65 美元/十亿 token 的模型跑更快 — idanbeck · 2026-09-18