ngrok AI Gateway 接入 Liquid AI 与 160+ 模型,小模型把盆栽警报当急call

JosephJacks_ · x · 2026-11-10

ngrok 宣布 AI Gateway 新增两家供应商:Liquid AI 的小模型系列与聚合 160+ 模型的 LLM API(其中 100 个可用 ngrok 额度运行),包括 Amazon Nova Pro、Llama 3.3 70B、Mistral Large 3 及多家语音服务商模型。

Liquid AI 上架的模型包括文本模型 lfm3-1.7b($0.08/$0.20 每百万 token)与 lfm2.5-24b-a2b、多模态 lfm3-vl-2b、音频模型 lfm3-audio-2b/omni-2b,以及返回带概率类型化答案的决策模型 d1 系列。

ngrok 用一个趣味测试展示模型差异:让各模型判断告警是否值得半夜叫醒工程师——生产数据库宕机时全部说 WAKE,而土壤湿度 12% 的办公室盆栽告警,多数大模型选择 SNOOZE,LFM3-1.7B 却七次里六次说 WAKE。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →