2026-09-28
HealthFlux在50.2万人、十一类模态上训练连续时间世界模型,观测之间用ODE推进、来了新检查再修订隐状态。五年195种病加死亡平均AUROC 0.816,超过Delphi-2M的0.715。
病历、血液、蛋白、代谢、基因、MRI 都在描述同一个人,但时间错开、口径不同。现有疾病模型大多针对单一终点或单一模态,学的是会不会得这个病,不是这个人现在处在什么健康状态。世界模型在这里的定义很具体:要有一个可随时间推进、可被新观测改写的隐状态,任何时候都能从中读出风险。
UK Biobank 提供了体量:502,166 人、5,647 个特征、十一个数据域。前作 Delphi-2M 用生成式 Transformer 学疾病自然史,模态覆盖和连续时间修订都不够。HealthFlux 把健康本身当成要模拟的对象。通讯作者来自斯坦福 Wyss-Coray 与 Ying 组,合作方包括华盛顿大学、哈佛医学院、MIT CSAIL。
混合连续时间循环状态空间。两次观测之间,年龄和静态上下文条件化的神经 ODE 推进 256 维确定性状态,积分用固定步长四阶 Runge–Kutta,时间按 3652.5 天归一,每段最多四个子步。来了新观测,先形成 128 维对角高斯的先验和后验,再经 GRU 门控跳变改写状态。最终表示是层归一化后的 384 维拼接。没有观测时,状态停在 ODE 推出来的值,查询任意年龄不必假装做过没做的检查。年龄被显式编码,同样间隔在不同生命阶段可以走出不同斜率。
世界模型的训练目标不是疾病标签。它预测下一次临床事件是什么、间隔多久,外加权重 0.01 的 KL。数值模态只用来更新状态,不当作 next-event 目标。下游疾病头是冻住状态再装的。训练用 351,166 人,每人每轮最多 96 个观测节点,六卡全局 batch 3072,只跑 2000 step。病历 token 嵌入从表级事件模型初始化,动力学和多模态编码器从头训。
十一类输入:纵向病历、人口学、遗传、血生化、血液学、体测、生活方式、蛋白组、代谢组、腹部 MRI、脑 MRI。5,604 个时变特征加 43 个永久上下文。同一时刻的数值模态用 softmax 注意力池化;病历事件作为单独节点,排在同龄数值行之前。
UKB 留出集上,195 种疾病加死亡、五年窗口,平均 AUROC 0.816、AUPRC 0.079。对照里 TabPFN-v3 最高也只有 0.791 / 0.063,Delphi-2M 是 0.715 / 0.037,XGBoost 0.790 / 0.064,RisQ 0.790 / 0.064。专用临床评分同样落后:综合心血管 0.776 vs QRISK3 的 0.743;全因死亡 0.846 vs Charlson 的 0.754。
把目标诊断从世界模型和读出头的训练里拿掉,严格未见疾病平均 AUROC 仍有 0.769。八个留出人群 0.755,高于 XGBoost 的 0.734。往后空跑、不再喂新观测,相对 Delphi-2M 的 AUROC 优势从间隔一年的 0.098 扩到间隔五年的 0.128,最后窗口已经是观测后第 5–10 年。高风险分位的五年发病率富集,各 ICD 章 top-10% 约 4.0 到 9.7 倍,top-1% 约 6.6 到 62.3 倍。180 天内新诊断不少于 6 次的人,状态变化速率是无新诊断者的 4.4 倍。
外队列用无标签 test-time training 只改归一化:CARDIA / ARIC / WHI 的疾病级中位 AUROC 分别是 0.852、0.670、0.604,三个队列都高于对照的 Delphi-2M 和 RisQ。高血压个例上,多模态在 90% 特异度下能捞回单模态漏掉的 27.9%–55.5% 病例。
这是把世界模型那套「隐状态、动力学、观测修订」认真接到健康数据上的一次。预测头可以后装,稀缺病、新队列、新检查都有一条迁移路径。对做医疗基础模型的人,连续时间比把每次就诊当成离散 token 更对症:检查是稀疏的,病是连续演的。
它还不能当临床工具。预印本写明未经同行评审,不可用于指导诊疗。UKB 健康志愿者偏差、记录发病而非真实起病,都会让数字偏乐观。AUPRC 0.079 说明极不平衡终点上绝对精度仍然低,AUROC 好看不等于能筛。
讨论写得很克制:外推靠无标签适应;若干迁移和生物学解释用的是更早的连续时间实现和任务专用读出,主模型与分析模型不是同一份权重。WHI 中位 AUROC 只有 0.604,跨队列并不稳。ODE 积分超参和 96 节点截断,对超长病史会丢信息。未见病 0.769 是平均,章级排除时四个系统都会掉,距离越远掉得越多(Pearson r=−0.278)。没有前瞻性干预试验,模拟「如果改变某项检查」的因果能力未验证。训练只 2000 step,世界模型有没有真正收敛,论文没有给出损失曲线之外的证据。