北大发布 TensorCast：冷启动提速 228 倍，TTFT 降 93%

jiqizhixin · x · 2026-08-24

北京大学、StepFun 和北京邮电大学联合提出 TensorCast，这是一个位于计算引擎、网络和存储之间的统一可编程张量管理层。它解耦了张量状态（权重、KV Cache、检查点）与特定系统的绑定，复用统一的生命周期管理。实测显示，其在 KV Cache 性能上媲美 Mooncake，将 235B 参数模型的实例冷启动时间缩短高达 228.6 倍，在高并发多轮 Agent 场景下将 TTFT 降低 93.2%。