TypeLLM：开源「工作流模型」，一次 API 调用跑完整个流程

rohanpaul_ai · x · 2026-10-15

开源项目 TypeLLM 提出「工作流模型」概念：聊天模型返回一条回复、决策模型返回一个选择，而 TypeLLM 把一整个工作流——多个带类型的答案、相互依赖的字段、条件性字段——作为一份 JSON Schema，在单次 API 调用中按依赖图执行，共享同一上下文。

技术实现上，TypeLLM 基于 SGLang，将 JSON Schema 编译为约束解码：枚举/布尔只用一个带评分的 token、数字用有界位数，依赖图还会复用缓存的公共前缀。因此字段不可能返回 schema 之外的值——对原生 Qwen 检查点即可实现 schema 保证输出，无需改动模型权重。