盘点近期六大端侧小模型：覆盖隐私过滤、OCR与视频理解
vanstriendaniel · x · 2026-08-07
作者盘点了近期发布的几款开源权重小模型，指出许多 AI 任务现在已能完全在本地或设备端运行。
这些模型覆盖了多种实用场景：
- 隐私过滤：OpenAI privacy-filter (1.5B)，可在浏览器中脱敏 PII。
- 语音转写：NVIDIA Nemotron-3.5 ASR (0.6B)，支持流式处理。
- 文档解析：OvisOCR2 (0.9B)。
- 智能体循环：LiquidAI LFM2.5 (2.6B)。
- 内容审核：Mistral Shieldstral (3B)，支持自定义策略。
- 视频理解：Marlin-2B。
作者认为，下一阶段的挑战将是如何在端侧做好这些模型的路由调度。
所属事件:盘点近期开源小模型：六大AI任务实现完全本地运行(2 条相关)→
「Infra」频道最新
- MotherDuck实现Agent免注册开通数仓，全流程审计成新范式 — JeremyCMorgan · 2026-08-07
- GitHub宕机暴露Agent软肋：中心化控制平面成自动化瓶颈 — amu4biz · 2026-08-07
- DeepSeek API价格引争议:租用GPU真能覆盖成本? — t4a8945 · 2026-08-07
- 盘点近期开源小模型：六大AI任务已可实现完全本地运行 — vanstriendaniel · 2026-08-07
- SpaceX 算力单兆瓦营收超 3000 万，远超 CoreWeave — shaunmmaguire · 2026-08-07
- DeepInfra 每日处理超 5000 亿 Token，推理算力需求旺盛 — patricious · 2026-08-07