llama.cpp 已支持 /v1/realtime,可本地跑语音对话
ngxson · x · 2026-11-16
开发者 ngxson 提醒,llama.cpp 的 server 早已支持 OpenAI 风格的 /v1/realtime 接口,可以配合 LFM3-Omni 这类全模态模型实现完全本地的 speech-to-speech 实时语音对话。
从 README 截图看,该接口支持 realtime(对话)与 transcription(逐段转写)两种会话类型,音频输入为 PCM16 单声道,服务端会自动重采样,通过 session.update 可调整参数。这意味着不用调 OpenAI API,也能在本地搭一套实时语音助手。
「编程与Agent」频道最新
- 开发者预告 iPhone 电脑使用 Agent:免额外硬件 2.1ms 打字延迟 — iamrobotbear · 2026-11-16
- Reddit求方案：用Codex搭建全自动游戏视频剪辑流水线 — gondorzabitasi · 2026-11-16
- 20 个 Claude 智能体给出 Naslund 交叉问题的首个非平凡下界并用 Lean 形式化 — burny_tech · 2026-11-16
- 开源 ywza：用无障碍树让 AI 低 token 操控真实 PC — Important_Earth6615 · 2026-11-16
- 用 Claude 生成 Airflow 3 交互式 ML 编排教程并开源 — Total_Firefighter_59 · 2026-11-16
- Codex 频报无写入权限,开发者吐槽部署耗时反超开发 — Revan_84 · 2026-11-16