Karpathy GitHub 免费学习路线走红:从 micrograd 到 nanochat 六步吃透 LLM
lmoroney · x · 2026-10-28
Laurence Moroney 整理了网上流传的 Andrej Karpathy GitHub 仓库免费学习路线,推荐按顺序学习 LLM 内部原理:
- micrograd:微型自动微分引擎,理解反向传播
- nn-zero-to-hero:配套视频课程
- nanoGPT:训练一个小型 GPT
- llm.c:用纯 C/CUDA 实现同样的想法
- nanochat:完整 ChatGPT 式管线,Karpathy 称之为「100 美元能买到的最好的 ChatGPT」
- autoresearch:agent 在单 GPU 上运行 nanochat 训练实验
他的建议是慢慢来:亲手敲一遍 micrograd,在玩具数据集上跑通训练,能解释每一行代码后再进入下一阶段。
「编程与Agent」频道最新
- 放射学顶刊发表 Agentic AI 综述:agent 拓扑、评测与挑战全景 — jnkath · 2026-10-28
- Parsers 发布:一条 URL 进结构化 JSON 出,网页数据抓取一站搞定 — gaganghotra_ · 2026-10-28
- 实测「AI CEO」管 AI 团队:12 小时做出的游戏照样没法玩 — thisguyknowsai · 2026-10-28
- 开发者分享 Grok Bot 用法:每个项目单独开一个 bot 隔离上下文 — jonathan_wilke · 2026-10-28
- Cursor Design 模式上线标注功能:直接在运行中的应用上留言指挥 agent — testingcatalog · 2026-10-28
- 终端 Agent 在 50 万行代码库里靠 grep 找符号,被指是 30 年技术倒退 — Evening_Hawk_7470 · 2026-10-28