KAN 作者 Ziming Liu 提出「meta model」:不用跑实验就能预测训练结果
ZimingLiu11 · x · 2026-10-31
MIT 的 Ziming Liu(KAN 作者)介绍团队新提议的"meta model"——即"对模型的学习过程建模的模型",目标是在真正跑实验之前就预测出训练结果。
他同时说明这并非全新想法:何诗怡、Kaiyue Wen 和滕钰谋此前提出的 NCPL(neural configuration-to-performance scaling law)通过微调一个 LLM,从配置文件预测训练曲线。从配图示例看,新方法将训练配置(数据量、模型规模、层数、学习率调度等)作为输入,数值经两层 MLP 嵌入,预测的目标标签是相对 Chinchilla 基线的残差损失。
所属事件:KAN 一作刘子鸣提出 meta model:实验前预测训练结果(6 条相关)→
「研究」频道最新
- DeepMind 用 Gemini 智能体系统解开 11 台 BB(6) 图灵机未决规则 — rvp · 2026-10-31
- Christophe Giraud《高维统计导论》第二版可免费获取 — FrnkNlsn · 2026-10-31
- 比编译器更快:手工优化有符号 32 位整数除法实测 — lemire · 2026-10-31
- Teleport 挑战赛实测:AI 转译 NetHack 正确率 99.5% 但可读性骤降 — davidbau · 2026-10-31
- AIGENIE 开源 R 包用 LLM 自动生成并验证心理量表题目 — GolinoHudson · 2026-10-31
- LLM-as-a-judge 位置偏差实锤:研究者提醒评测判官模型须全随机 — antoine_chaffin · 2026-10-31