开源代理 stuntd 用本地模型替你回答小决策

开发者开源了 stuntd（Apache-2.0 协议），这是一个本地运行的 Jev 兼容决策代理，针对生产环境痛点：应用向 LLM 发送的大量请求并非生成文本，而是选队列、判断紧急或安全等小型封闭式决策。stuntd 拦截这些决策请求，用用户自身流量在开源模型 Laya 上训练小模型，实现约 22ms 本地响应，并宣称 90% 的问题可免费作答。

2026-09-23 ~ 2026-09-23 · 2 条相关