研究者实测分辨率式预训练思路:多数实验堪称灾难
gordic_aleksa · x · 2026-09-19
Aleksa Gordić 与 giffmana 讨论预训练数据瓶颈:giffmana 称受视觉分辨率研究启发做过相关实验,但「大多数结果是场灾难」。Gordić 认为更根本的问题是「预训练不受数据瓶颈限制」这一假设本身,并提到相关工作的 signal/flop 表现尚可。
「研究」频道最新
- 基因组语言模型设计出自然界不存在的生物合成装配线 — KevinKaichuang · 2026-09-19
- 研究者质疑抗体模型用 SabDab 训练至 2025,测试集污染存疑 — anshulkundaje · 2026-09-19
- 淋巴瘤确诊后离开耶鲁,研究者转做抗体药物基础模型 — anshulkundaje · 2026-09-19
- WetRobo:让编码 Agent 在真实生物实验室里写程序操控机械臂 — sherryyangML · 2026-09-19
- NanoGPT Speedrun 新纪录 67.6 秒:屏蔽非规范 token 省 15 步训练 — kellerjordan0 · 2026-09-19
- Grigore Rosu：程序执行即证明生成，可无限产出训练数据 — LingmingZhang · 2026-09-19