ngrok AI Gateway 接入 Liquid AI 与 160+ 模型,小模型把盆栽警报当急call
JosephJacks_ · x · 2026-11-10
ngrok 宣布 AI Gateway 新增两家供应商:Liquid AI 的小模型系列与聚合 160+ 模型的 LLM API(其中 100 个可用 ngrok 额度运行),包括 Amazon Nova Pro、Llama 3.3 70B、Mistral Large 3 及多家语音服务商模型。
Liquid AI 上架的模型包括文本模型 lfm3-1.7b($0.08/$0.20 每百万 token)与 lfm2.5-24b-a2b、多模态 lfm3-vl-2b、音频模型 lfm3-audio-2b/omni-2b,以及返回带概率类型化答案的决策模型 d1 系列。
ngrok 用一个趣味测试展示模型差异:让各模型判断告警是否值得半夜叫醒工程师——生产数据库宕机时全部说 WAKE,而土壤湿度 12% 的办公室盆栽告警,多数大模型选择 SNOOZE,LFM3-1.7B 却七次里六次说 WAKE。
「Infra」频道最新
- Revolut 优化后 AI 编码账单降 90%:256K 上下文够用 — alvelda · 2026-11-10
- 6-8 千加元预算跑本地大模型:M5 Ultra 96GB 还是自组大内存 PC? — EfficientDivide1572 · 2026-11-10
- 业界热议 ASIC 时代来临:推理需求推动公司自研芯片 — ai · 2026-11-10
- 涉「中国间谍」公司两年购入近 50 亿美元 Nvidia 芯片 — AIFlow_ML · 2026-11-10
- SGLang Summit 议程:LinkedIn 万级 QPS 广告排序、Vera Rubin 适配 — ying11231 · 2026-11-10
- 26 人团队发 212 页论文,提出可暂停前沿 AI 十年的「硬接线暂停」方案 — DavidSKrueger · 2026-11-10