开发者从零实现 Qwen3-0.6B 全栈:从 Transformer 到 GPU 指令集模拟器

generativist · x · 2026-09-14

开发者 penberg 发布了开源项目 Titania,目标是把一个大语言模型的每一层都做得小到一个人能读完、理解并实现。项目从零设计了模型内核、指令集(ISA)、编译器与 GPU 模拟器,跑的是真实的 Qwen3-0.6B 解码器 Transformer,可以直接对话。当前内核会编译到 Titania ISA 并由 ISA 模拟器执行,路线图还包括 RTL GPU、FPGA 乃至流片。作者坦言这对 CPU 编程背景的人来说像魔法,于是借助 Claude Code 把它做成了一个「周末黑客」项目;转发者感叹这类可探索的全栈实现如今已是一周末就能搞定的活。