伯克利演讲重放:预训练数据质量仍有多条改进路径
code_star · x · 2026-07-07
研究者重新分享了其在伯克利关于预训练数据的演讲幻灯片,指出预训练数据质量方面仍存在多条可探索的改进路径。预训练数据的质量、构成与处理方法被认为是影响大模型能力的关键因素之一,该演讲为相关研究者提供了系统参考。
code_star · x · 2026-07-07
研究者重新分享了其在伯克利关于预训练数据的演讲幻灯片,指出预训练数据质量方面仍存在多条可探索的改进路径。预训练数据的质量、构成与处理方法被认为是影响大模型能力的关键因素之一,该演讲为相关研究者提供了系统参考。