旧笔记本搭语音聊天 Agent 遇 20-30 秒延迟,求助优化方案
mesolimbic-bliss · reddit · 2026-10-27
一位用户受 Reachy-Mini 启发,想在一台 2015 年左右的 MSI GS70 老笔记本上搭建本地语音聊天助手,使用 Open WebUI + llama.cpp + Gemma 4 E2B + Whisper STT + Kokoro TTS 的 voice mode,但所有尝试都有 20-30 秒延迟。硬件为 i7-5700HQ、16GB DDR3、GTX 965M 仅 2GB 显存。作者征求优化建议,只想要语音陪伴不需要形象。
「Infra」频道最新
- Evercore 预计 2027 年初微软自研 Maia 芯片仅占其 AI 芯片支出约 10% — Beth_Kindig · 2026-10-28
- YC F26 项目 Applied Kin 用 AI 原生模式造变压器，7 周即报价 — ycombinator · 2026-10-28
- 轨道算力公司 Cowboy 公布 1MW 卫星设计：5 机架 GPU、6 条 1.2Tb/s 激光链路 — BenBajarin · 2026-10-28
- 开源网关 Zilla 加入 LLM 支持:难点是保住原生 API 特性而非路由 — jkriket · 2026-10-28
- Together 提出 MIGHT 开源 AI 技术栈：模型/推理/路由/Harness/工具五层可自由替换 — togethercompute · 2026-10-28
- 数据中心日均用水 1.6 万加仑，不到高尔夫场地的五分之一 — lmoroney · 2026-10-28