开源 iOS 应用实现多款大模型完全离线运行
Zafrin_at_Reddit · reddit · 2026-08-05
开发者推出了一款名为 LiveTranscriber 的开源 iOS 应用，成功将 Whisper、Qwen3-ASR、Nemotron 和 MOSS 等现代语音及语言模型完全搬到了 iPhone 上实现本地运行。
该应用不仅支持 100% 离线语音识别和多说话人转录，还能利用 Qwen3 在端侧实时生成摘要、提取关键点并进行翻译。开发者表示，核心工程挑战在于解决手机端的内存管理、流式延迟、模型加载、上下文处理和电池消耗等问题。该项目已完全开源。
所属事件:开源 iOS 应用 LiveTranscriber 实现多模型离线运行(2 条相关)→
「Infra」频道最新
- Jeff Dean 等科学家因 TPU 限制研究而离开 Google — firstadopter · 2026-08-06
- ARCHead：大模型输出头量化新方法，存储大幅降低且几乎无损 — Şuayp Talha Kocabay · 2026-08-06
- 8张 V100 能否支撑 50 人团队的 DeepSeek 本地推理？ — MKU64 · 2026-08-06
- RTX 5090搭配96GB内存对本地AI工作流提升大吗？ — Beastly4k · 2026-08-06
- 英伟达发布 RTX Spark 超级芯片：1 Petaflop 算力，重新定义 AI PC — nvidia · 2026-08-06
- 新 ComfyUI 节点让 Minimax H3 提速 4 倍、Krea 2 提速 5.6 倍 — Certain-Will-2769 · 2026-08-06