iPhone 16 本地跑 8B 模型提取 52 页文档实测
Better_Comment_7749 · reddit · 2026-08-31
用户展示了在 iPhone 16 上使用 KernelAI 移动端 App 进行本地文档提取的 Demo。该 App 能够在端侧运行 Arctic Embed 和 Bonsai 8B 模型，成功处理了 52 页的文档提取任务。作者提到的 KernelAI v2 版本支持网络搜索、文档提取和导入自定义模型等功能，且 App 目前完全免费无广告。
「Infra」频道最新
- Llama 3.1 本地部署导致后台常驻拖慢系统，卸载后恢复 — AiJohnAllen · 2026-08-31
- 解决 AI iOS 编码崩溃，SimSlim 工具可在单 Mac 运行更多模拟器 — bigblueboo · 2026-08-31
- 苹果或因成本放弃 2027 年 iPhone 采用 HBM — power97992 · 2026-08-31
- 矩阵乘法能耗优化竞赛：挑战 AlphaTensor 算法 — yaroslavvb · 2026-08-31
- NVIDIA 推出 DGX Station 桌面级工作站 — SpendLucky1273 · 2026-08-31
- V100 与 5060Ti 运行 Qwen 3.8 性能对比 — ColorsOfCosmos · 2026-08-31