kalomaze 展示 DeepSeek V3.1 底座更大骨干实验,eval loss 降至约 0.82
kalomaze · x · 2026-11-04
kalomaze 在推文附带一张训练曲线截图,展示其说的「更大 backbone」实验:基于 deepseekv31base 做 fp8、r16 混合、WSD+ADEMA 配置的 16h200 训练,约 3750 步内 eval loss 从约 1.14 持续下降至 0.82 左右。此为线程片段,细节依赖上文。
「研究」频道最新
- KAIST 提出 FactEmbed:分解式潜在向量改进组合图像检索 — kaist-ai · 2026-11-04
- Intology Locus 自动设计分子模型,击败 GPT-6 与 Claude 智能体 — rohanpaul_ai · 2026-11-04
- 谷歌联合 Mercor 发布工程基准 PLE,85 项任务全部前沿模型低于 50% — teortaxesTex · 2026-11-04
- 剑桥 van der Schaar 实验室开放 2027 年入学博士申请 — MihaelaVDS · 2026-11-04
- 腾讯 Hyra 2.0 蛋白序列生成速度达 ProteinMPNN 的 57 倍 — YvesMulkers · 2026-11-04
- 学者控诉顶会 AI 论文乱象:现场用 ChatGPT 答提问、一稿双投还造假数据 — Vegetable-Formal-753 · 2026-11-04