MIT 6.5940 EfficientML：量化与高效部署课程免费学
techNmak · x · 2026-10-17
LLM 推理学习资源清单第 5 条：MIT 6.5940 TinyML and Efficient Deep Learning Computing。作者推荐 2024 年课程中关于量化和高效 LLM 部署的讲座，学习让模型更小更便宜的压缩技术。课程覆盖剪枝、量化、神经网络架构搜索、分布式训练、数据/模型并行等，并有在笔记本上部署 Llama2-7B 的动手作业，视频全部免费在线。
「Infra」频道最新
- 印度全国仅约 3 万块 GPU,专家称建前沿模型算力缺口达 10-20 倍 — CatAstro_Piyush · 2026-10-17
- MiniCPM-V 4.7 仅占 3GB 显存，本地跑出 100 tokens/秒 — NielsRogge · 2026-10-17
- AI 算力竞赛的隐形功臣:数据中心电源管理芯片决定能效上限 — Olivier__OG · 2026-10-17
- 35B 多模态模型跑进 3GB 内存：MiniCPM-V 4.7 全程离线读懂家电面板 — alifcoder · 2026-10-17
- 本地跑 Qwen3.8-Flash-Next：换全量 FP8 n-gram 表质量明显提升 — sillynoobhorse · 2026-10-17
- 单卡 A100 本地跑 Nemotron 3.5,169 tok/s 处理百份病历仅 2 美分 — MaziyarPanahi · 2026-10-17