开源实战：1.2GB内存在安卓端跑通离线语音Agent
ivan_digital · reddit · 2026-08-13
开发者在Galaxy S23 Ultra上成功部署了一个完全离线的语音助手，完整语音到动作的流水线仅占用约1.2GB内存，无需联网即可实现语音识别、动作选择和语音合成。
技术栈与设计亮点：
- 流水线：Silero VAD → Parakeet-EOU 120M STT → FunctionGemma 270M → Android action → Pocket TTS。
- 模型控制：FunctionGemma配合9.5MB的adapter，仅输出结构化的工具调用，而非开放式对话。
- 状态过滤：根据设备当前状态过滤可用工具（如仅在播放音乐时提供“停止”选项），从源头防止无效操作。
- 安全校验：模型不被允许凭空捏造结果，联系人和音乐搜索均会与真实设备数据比对。
目前该原型支持查联系人、拨号、播放本地音乐和调节音量。作者探讨了在受限动作路由器与引入大型规划模型之间的边界取舍。
「编程与Agent」频道最新
- 产品要做「两次销售」：先让 Agent 选中，再让人买单 — FinanceYF5 · 2026-10-16
- Sentry CEO 晒图：AI 实习生在 code review 里反驳人类同事 — zeeg · 2026-10-16
- SWE-Duel:让编码 agent 互相出题埋 bug 的抗污染竞技场 — Consistent_Fox_2990 · 2026-10-16
- 把 Claude Code 等 agent 轨迹攒成数据集，微调开源小模型 — Rasmic · 2026-10-16
- LangChain 工程师：仅靠生产 traces 自动生成 evals 远远不够 — BraceSproul · 2026-10-16
- Rebasely 公测：为人和 Agent 共写代码打造的新 Git 托管 — handotdev · 2026-10-16