把 LLM 跑给你看:Qwen3.8-27B 全 64 层 3D 可视化
gamedevsam · reddit · 2026-10-26
开发者 gamedevsam 发布了一个 3D 可视化项目,把 278 亿参数的开源模型 Qwen3.8-27B 的推理过程完整呈现:他向模型提问「DJ 在打什么」,然后追踪这个问题穿过模型全部 64 层。
可视化把模型比作唱机上的唱片——每个 token 沿唱片纹路从外缘滑向盘心,每一层的每个单元都在其上工作。作者强调所有数据都是真实的:概率、attention 读取内容、记忆变化,均来自模型在他自己 PC 上实际运行的记录。
视频约 10 分钟,展示了游戏 PC 就能跑的小模型如何在架构层面工作,也顺带回应了「小参数 dense 模型为何能跑赢更大模型」的好奇。
「研究」频道最新
- Baym 提醒:现有算力远不足以暴力破解生物学难题 — KevinKaichuang · 2026-10-26
- EMNLP 论文用 LLM 规模化测量文本歧义,源自哈贝马斯机器项目 — sebkrier · 2026-10-26
- ELLIS 2026 博士项目开放申请,10月31日截止 — CSProfKGD · 2026-10-26
- 损失曲线对比:换个架构归纳偏置,训练效率差出一截 — mike64_t · 2026-10-26
- Fortnow 撰文探讨算法结果何时「大概率已最优」 — fortnow · 2026-10-26
- Domingos 炮轰 gdb:维数灾难指输入维度而非参数量 — AlexTensor · 2026-10-26