端侧 AI 实战:iOS 跑通 2.6B 模型
helloiamleonie · x · 2026-08-31
作者构建了一个运行 LiquidAI LFM2.5-2.6B 模型的 iOS 应用。
- 技术栈:使用 QLoRA 微调以实现结构化工具路由,转换为 MLX 框架并量化至 4-bit。
- 功能:支持通过自然语言触发 iOS 原生功能(提醒事项、地图、定时器),并提供实时的 Token 速度与内存监控。
- 意义:展示了端侧 AI 在调用系统功能与监控方面的潜力。
「编程与Agent」频道最新
- 零依赖 Rust 内核:FrankenMarkdown 把 Markdown 渲染成自包含 HTML 与 PDF — doodlestein · 2026-08-31
- Swyx 深度解析:阻碍 Agent 落地的并非模型能力本身 — iamrobotbear · 2026-08-31
- 用 Codex 与 Blender 合作,比招人更快 — natesiggard · 2026-08-31
- 有人探索在 DSPy 框架中优化 LLM 目标检测的 Prompt — lateinteraction · 2026-08-31
- 曝 OpenAI 购数万台 Mac mini 训练 Agent — ZeroStateReflex · 2026-08-31
- Meta^n 递归自改进架构:ARC-AGI-2 得分 0.331 — burny_tech · 2026-08-31