用股票曲线当学习率调度:四人直播四场预训练实验

sandylikesfrogs · x · 2026-11-21

一组研究者(@msarthak29 等)发起了一个玩梗兼严肃的实验:用 Anthropic、SpaceX、SPY 和 NVDA 的股价/ IPO 走势实时驱动学习率,替代经典的 warmup + cosine decay 调度。

他们正在跑 4 个完全相同的预训练 run,仅 LR 策略不同,并公开了实时训练监控页面,验证「Anthropic IPO 曲线」是否比传统调度更好。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →