kalomaze 展示 DeepSeek V3.1 底座更大骨干实验,eval loss 降至约 0.82

kalomaze · x · 2026-11-04

kalomaze 在推文附带一张训练曲线截图,展示其说的「更大 backbone」实验:基于 deepseekv31base 做 fp8、r16 混合、WSD+ADEMA 配置的 16h200 训练,约 3750 步内 eval loss 从约 1.14 持续下降至 0.82 左右。此为线程片段,细节依赖上文。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →