单张 A40 跑全栈语音 Agent:首音频延迟中位数 1.28 秒,附调优细节
Broad_Breakfast_1172 · reddit · 2026-10-26
- 踩坑记录:Gemma 工具调用后产生空 thinking block;Qwen 的 chat template 拒绝对话中段插入 system 消息;WebSocket 客户端 bug 导致首次打断后音频全部丢失。
- 可试功能:句中打断、东京时间(时钟工具而非猜测)、基于事实手册自答并承认未知、安静场合可改打字。
提供公开 demo(在线 5 分钟,不留语音只留文本 30 天),并征集大家开源模型的首音频延迟数据。
「编程与Agent」频道最新
- unified-brain 开源:SQLITE 持久记忆层,号称成本降至 1/18 — StatusFoundation5472 · 2026-10-26
- 博主分享多智能体开发栈:按代码量路由 Opus/Fable,Astra 审 PR — sh_reya · 2026-10-26
- App Store Connect CLI 5.17.0 发布:8k star 开源工具一键重排截图 — rudrank · 2026-10-26
- 开发者晒 GPT-6 Astra Ultra 连跑 41 小时,自主开发 Dreamcast 游戏 — AIandDesign · 2026-10-26
- Bitpanda 加密交易所推出 MCP 服务器,可程序化交易查询 — modelcontextprotocol · 2026-10-26
- GitLab MCP 连接器上线:自带 API key 封装 REST API v4 — modelcontextprotocol · 2026-10-26