开发者在 Mac 本地跑 1.5B 模型并逐层可视化其推理过程

有开发者在 Mac 本地运行一个 15 亿参数的开源小模型,录制其生成时的完整内部行为,包括每个 token 的下一词概率分布、每步回看的注意力位置以及 28 层网络各层的推测。在此基础上,作者先做设计稿(十节课、配色、纸质纹理),再与 AI 逐课实现,将这些录像做成可视化教学页面,构建 Transformer 教学站点。

2026-11-20 ~ 2026-11-20 · 2 条相关