东北师大团队 277 页《大模型基础》教材更新至 v4，六章免费开放
mdancho84 · x · 2026-11-04
肖桐、朱靖波等（东北大学 NLP 实验室 & NiuTrans）的《Foundations of Large Language Models》arXiv 教材（arXiv:2501.09223）已更新至 v4（2026 年 10 月），全书 277 页，聚焦基础概念而非前沿全覆盖，面向学生与 NLP 从业者。
全书共六章：
- 预训练：无监督/自监督预训练任务、BERT 案例、多语种模型
- 生成模型：Decoder-only Transformer、训练规模化、Scaling Laws、长序列建模
- 提示：提示设计、CoT 推理、RAG 与工具使用、自动提示优化
- 对齐：指令微调、RLHF、DPO、推理时对齐
- 推理：解码算法、缓存/批处理/并行等加速技术、推理时 scaling
- 推理能力相关章节
可从 arXiv 免费下载 PDF，配套内容见 GitHub NiuTrans/NLPBook 仓库。
「研究」频道最新
- 零微分几何前置的信息几何入门教程发布,附视频与讲义 — FrnkNlsn · 2026-11-05
- Yandex 开源 Yambda-5B：49 亿条音乐行为交互数据集 — teortaxesTex · 2026-11-05
- MIT 等研究：投机解码可提升长程智能体推理精度 — kastnerkyle · 2026-11-05
- Nature 论文 AutoDNA：AI 原生实验室实现自主核酸实验全流程 — EricTopol · 2026-11-05
- 再添一击:研究显示 Grad-CAM 定位胸片病灶命中率仅 0.575,放射科医生为 0.888 — zakkohane · 2026-11-05
- 基于 GLM-5.3 的科学模型 Hydrogen-1.0 上 HF 趋势榜，MIT 开源 — deep-principle · 2026-11-05