PhoneLLM 发布两款语音对话模型：Mini 30B 首 token 延迟低于 100ms
ritakozlov · x · 2026-10-16
Pipecat 团队推出两款面向对话式语音 AI 优化的 PhoneLLM 模型，并登陆 Cloudflare Workers AI：
- PhoneLLM Mini（30B）：主打最低延迟（首音频 token 延迟 sub-100ms）、最小体积与最低成本，多轮对话与工具调用表现良好，单张 B200 可跑 100+ 并发 agent，也能装进 RTX 5090。
- PhoneLLM Max（120B）：面向复杂对话任务的「microthinking」模型，首音频 token 延迟 sub-200ms，任务完成率达到 SOTA，而延迟与成本仅为同能力模型的约 1/10。
两款均为 NVIDIA Nemotron 的全权重微调，Mini 基于 Nemotron 3 Nano，Max 基于更大的 Nemotron 版本。
所属事件:PhoneLLM 双模型开源，首 token 延迟低于 100 毫秒(2 条相关)→
「模型」频道最新
- 开发者:除顶尖专家外,编码模型在软件各领域已全面超越人类 — zack_overflow · 2026-10-16
- 爆料预测:中国前沿模型或 2027 年 3 月追平 GPT-6 级别 — teortaxesTex · 2026-10-16
- Liquid AI 决策模型 d1-ultra 上线 Vercel AI Gateway — JosephJacks_ · 2026-10-16
- DeepLearningAI 周报:Haiku 5.5 降价九成、Gemini 4 Argon 输出上限升至 1M — DeepLearningAI · 2026-10-16
- 腾讯混元回应 agent 争议:系第三方模型评测中的意外浏览行为 — TencentHunyuan · 2026-10-16
- 律所实测：Claude 力压 Legora 等付费法律 AI 工具 — jkubicki · 2026-10-16