AI SDK 新增流式请求超时设置,支持快速失败机制

lgrammel · x · 2026-07-23

AI SDK 近期引入了一项备受期待的超时配置参数 firstChunkMs。该功能主要用于解决大模型流式输出中的“卡死”问题:当模型快速返回响应头后却迟迟不输出实际内容时,系统允许基于首个数据块的到达时间进行快速失败。

此前,这类异常请求会一直消耗整个步骤的超时上限,导致严重的资源浪费与延迟,新机制大幅提升了流式工作流的稳定性。

所属事件:AI SDK 新增流式请求超时配置(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →