SIE 推出 Serverless 推理平台:专注小模型任务路由

HankYeomans · x · 2026-11-04

SIE(SIEMEMETICS 相关团队)发布 SIE Serverless,一个聚焦小模型的托管推理产品,面向突发性(spike)工作负载,支持 Search、OCR、Agentic 执行等 20 多种任务专用模型。新用户可申请 500 美元额度的发布补贴。

该产品基于其开源推理引擎(近月获数千 GitHub star,已在金融、法律、科技行业实战验证)。团队主张「专用模型 > 更大模型」:比如一个 agent 要做消息分类、读图中文字、搜文件、写回复,可以用 4 个不同的小模型各司其职。他们同时认为考虑到 AI 的信任与安全问题,自托管会越来越重要,但合成数据生成、评测、公开研究等工作负载仍适合交给托管服务。