开源语音助手 Poldi:8GB 显存即可全本地离线运行
rhinodevil · reddit · 2026-10-25
开发者在 LocalLLaMA 发布业余项目 Poldi——完全离线、本地运行的语音 AI 助手:
- 功能:唤醒词免提交互、浏览器客户端(可用手机)、自动续聊、联网/维基搜索、可打断 LLM、无限对话、聊天记录搜索、用户记忆注入,支持英语和德语
- 技术栈:Whisper.cpp(STT)+ llama.cpp(LLM)+ Piper(TTS),主要用 C#/JS/C++ 编写
- 硬件门槛:面向 GPU 贫民,16GB 显存(5060 Ti)体验最佳,8GB 也能用,支持 CPU-only(部分功能需关闭);免提客户端仅限 Linux,可用树莓派做卫星端
- 许可:GPLv3,GitHub 附安装配置教程
「Infra」频道最新
- Amazon 推 TorchNeuron：Trainium 芯片零改动运行 PyTorch 代码 — Beth_Kindig · 2026-10-25
- 生病在家下单 Steam《Data Center》,博主体验机房管理模拟游戏 — AndyMasley · 2026-10-25
- 装上 SteamOS 扔掉 Windows，他攒出 96GB 内存跑 AI Agent — fforres · 2026-10-25
- Modal 推出免费 GPU Glossary：H100 可真并行超 1.6 万线程，每线程仅 5 瓦分之一 — josh_wills · 2026-10-25
- Reflection AI 开源 5000 亿参数 Beam：两个月数千 GPU 零停机训练 — dl_weekly · 2026-10-25
- 零阶优化预训练 10 天提速 4000 倍,从业者泼冷水:8B 模型 99.9% 方向从未探索 — burny_tech · 2026-10-25