KAN 作者 Ziming Liu 提出「meta model」:不用跑实验就能预测训练结果

ZimingLiu11 · x · 2026-10-31

MIT 的 Ziming Liu(KAN 作者)介绍团队新提议的"meta model"——即"对模型的学习过程建模的模型",目标是在真正跑实验之前就预测出训练结果。

他同时说明这并非全新想法:何诗怡、Kaiyue Wen 和滕钰谋此前提出的 NCPL(neural configuration-to-performance scaling law)通过微调一个 LLM,从配置文件预测训练曲线。从配图示例看,新方法将训练配置(数据量、模型规模、层数、学习率调度等)作为输入,数值经两层 MLP 嵌入,预测的目标标签是相对 Chinchilla 基线的残差损失。

所属事件:KAN 一作刘子鸣提出 meta model:实验前预测训练结果(6 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →