打造领域专用大模型：持续预训练(CPT)最佳实践资源汇总
liuzhuang1234 · x · 2026-08-09
作者分享了关于持续预训练（CPT）的深度阅读笔记，旨在为构建领域专用开源大模型总结最佳实践。
帖内整理了多篇极具参考价值的资源与模型报告，包括：
- Databricks 的 CPT 最佳实践
- Composer 2 与 Code Llama 模型报告
- DeepSeek-Coder-v2 与 Qwen-2.5-Coder
- DeepSeekMath 与 Nemotron-MIND
「研究」频道最新
- LLM 彻底抢饭碗？NeurIPS 73 个研讨会无一涉及因果推断 — Beautiful_Baker_2233 · 2026-08-09
- Nature Neuroscience：组合性并非人类专属，大模型靠规模实现该能力 — SussilloDavid · 2026-08-09
- 合成数据缺护城河，人类专家判断力才是核心 — himanshustwts · 2026-08-09
- NeurIPS 审稿时间轴更新引关注：修改时间是否意味评分变动 — Responsible-Read-138 · 2026-08-09
- Goodfire CTO 深谈概念流形几何与 1000 美元/月的 ML 研究智能体 — The Cognitive Revolution · 2026-08-09
- Goodfire CTO 深度解析：概念流形几何与每月 1000 美元的 ML 研究 Agent — The Cognitive Revolution · 2026-08-09