语音Agent成本剖析器开源
mahimairaja · reddit · 2026-07-18
作者为语音智能体做了一个开源剖析器 **VoiceGateway**，专门解决 LiveKit / Pipecat 这类语音 Agent 在一次对话里会同时调用 STT、LLM、TTS，导致**成本和延迟很难归因**的问题。 它只需要一行接入：`voicegateway.attach(session)`，就能记录每次调用的： - 各供应商/模型的单次成本 - 延迟分布（p50 / p95） - 单次调用回放 - `guard()`：每天预算上限与降级/fallback 作者强调它是**自托管**、使用自己的 key，且 telemetry 不在音频路径中；协议是 MIT，兼容任意 provider。帖末还在征求反馈：还应该按调用追踪哪些指标。