开源课 tiny-llm 走红:四周手搓迷你 vLLM

开源项目 tiny-llm 已获 5.4k star,采用 Apache-2.0 协议。这是一门面向系统工程师的 LLM 推理实战课程,定位类似 LLM serving 版的 CMU Needle 项目,学员将围绕 Qwen3 在四周内从零构建一个迷你版 vLLM 风格的推理引擎。课程全程可在 Mac 上完成,修完性能优化的坑才算毕业,适合希望深入理解推理系统底层原理的工程师动手实践。

2026-10-30 ~ 2026-10-31 · 2 条相关

• tiny-llm 开源课:在 Mac 上手搓 vLLM 式推理引擎,修完性能坑才算毕业 — techNmak · 2026-10-30
• 5.4k 星 tiny-llm 开源课:四周动手造一个迷你 vLLM — HowDevelop · 2026-10-31