60 天从零搞懂 LLM：必读的 8 篇核心论文清单
thisguyknowsai · x · 2026-08-11
作者分享了如果要在 60 天内从零开始学习大语言模型（LLM）的路线图，建议跳过零散的视频教程，转而精读并实现以下 8 篇核心论文：
- Attention Is All You Need (2017)：奠定 Transformer 架构的基础。
- Language Models are Few-Shot Learners (2020)：GPT-3 论文，展示少样本学习能力。
- Scaling Laws for Neural Language Models (2020)：揭示模型缩放规律。
- Chain-of-Thought Prompting (2022)：思维链提示技术。
- Training Language Models to Follow Instructions (2022)：InstructGPT 论文，讲解指令微调与 RLHF。
- LoRA: Low-Rank Adaptation (2021)：主流的参数高效微调方法。
- Retrieval-Augmented Generation (2020)：RAG 检索增强生成技术。
- Direct Preference Optimization (2023)：DPO 直接偏好优化算法。
建议节奏为每周精读一篇，并尝试动手复现核心机制。
「研究」频道最新
- 新算法将知识蒸馏显存降至 6GB 内，支持本地 32K 上下文 — ikergarcia1996 · 2026-08-11
- RAG Me Up：面向工程师的开源 RAG 实战教程与代码库 — FutureClubNL · 2026-08-11
- Google 推出 Science One 框架，借证据链消除 AI 研究幻觉 — dl_weekly · 2026-08-11
- Agent 记忆系统为何总在两个月后失效？开发者探讨遗忘机制 — False-Excitement-886 · 2026-08-11
- 大模型水印技术可被滥用实现高隐蔽性文本隐写术 — dyn___ · 2026-08-11
- 算力紧缺时的微调策略:动态选择、混合与加权 — Puzzleheaded_Box2842 · 2026-08-11