哈佛出品 TinyTorch：纯 Python 手写 ML 框架，4GB 内存就能跑
lmoroney · x · 2026-10-12
TinyTorch 是源自哈佛 CS249r（现由 ETH Zurich 维护）的免费开源课程，让你用 PyTorch 同款 API 在纯 Python 里从零搭建一个可用的 ML 框架，共 20 个模块，覆盖从张量到 transformer，4GB 内存、无 GPU 的笔记本即可运行。
- 模块 01 要求在写矩阵乘法前先计算内存占用；后续模块让你亲手测出 Adam 为何比 SGD 多用约 3 倍优化器内存
- 慢是特性：自己的 Conv2d 跑一批要 97 秒而 PyTorch 只需 10 毫秒，vectorization 的意义从此永生难忘
- 项目方坦承仍处 preview、仅支持 CPU、尚未测量学习效果
- 建议：每天用 PyTorch 的人挑一个最困扰自己的子系统（autograd 或 attention）本周动手实现
所属事件:哈佛联手 ETH 推出 TinyTorch 纯 Python 手写 ML 框架(2 条相关)→
「编程与Agent」频道最新
- 「每个 query 都有自己的 harness」:一句话点出评测新思路 — amankhan · 2026-10-12
- 从小时级到天级：一线模型长程任务提速，瓶颈转向人的「带宽」 — dotey · 2026-10-12
- 开发者让 Agent 自建性能分析工具,定位系统瓶颈 — tristanbob · 2026-10-12
- 开源项目 Unlinked:用 Rust 克隆了大部分 Simulink 功能 — rickasaurus · 2026-10-12
- REA 操控 Computer Use 拆解 CapCut,批量下载 2291 个字幕模板 — dotey · 2026-10-12
- OpenUptime 开源:可让 Claude/Cursor 经 MCP 管理的监控与状态页 — gefei55 · 2026-10-12