开源实时数字人方案:单张免费 T4 从 30 FPS 优化到 90 FPS
SavingsWeather1659 · reddit · 2026-10-29
开发者发布了自托管的实时数字人(talking avatar)生成服务器 Bulti,专注优化 FLOAT 推理性能:免费 Colab T4 GPU 上从 30 FPS 提升到 90 FPS,TensorRT 加速后可达 105 FPS,每路并发约占 3 GB 显存。项目集成 LiveKit 与 WebRTC 以支持实时语音 agent,并简化了与 OpenAI、Gemini 等 AI 服务商的对接,目标是让自建 avatar 服务在成本和并发控制上优于第三方 API。GitHub 开源,附 Colab 试用。
所属事件:开源 Fast-Float 把数字人推理优化到 90 FPS(2 条相关)→
「Infra」频道最新
- GPU 推理自动缩容省的钱,何时反而不够付冷启动开销? — Mobile-Lab-4586 · 2026-10-29
- 开发者开源 380M 数据策展决策模型:100 万网页筛选仅花 5 美元 — vanstriendaniel · 2026-10-29
- DeepSeek 新模型啃下硬骨头:自动梳理遗留 Pentaho ETL 并规划迁移 — l4rz · 2026-10-29
- Arm 称 AGI CPU 机架性能翻倍,Signal 65 独立测试背书 — ryanshrout · 2026-10-29
- vLLM 内置 DSpark 带来最高 2.23 倍输出吞吐提升 — vllm_project · 2026-10-29
- vLLM 新版支持 Mistral Large 4 三档推理力度,Pixtral 可多图输入 — vllm_project · 2026-10-29