Liquid AI 去 causal mask:decoder 架构也能做决策模型

helloiamleonie · x · 2026-11-06

Liquid AI 在新版本中融合了 encoder 与 decoder 两大路线的优势:保留 decoder 架构,但去掉了 causal mask。

作者的推理是:causal mask 对「预测下一个 token」的语言模型合理,但如果训练目标是为决策服务,模型理应能看到全部 token。此前开源生态在理解任务上分裂为 encoder 派与 decoder 派,而 Liquid 两派架构都有,第一版各试了一遍,这一版则直接把决策模型的视野放开到双向。

所属事件:Liquid AI 发力决策模型:d1-ultra 登顶 AA 指数并开源 d1 系列(9 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →