GPT-2 词嵌入交互地图
shahryar2025 · reddit · 2026-07-19
有人做了一个 GPT-2-small 词嵌入空间的交互地图:覆盖 32,070 个字母类 token,不需要 forward pass,也不依赖上下文。
这个页面支持移动端,用户可以缩放、点选 token 查看最近邻,再沿着邻居继续走图。布局用的是对 embedding table 的压缩表示做 t-SNE,边则来自该空间里的最小生成树,因此每条线都代表真实的近邻关系。
所属事件:开发者推出GPT-2词嵌入空间交互式可视化工具(4 条相关)→
「研究」频道最新
- Nature Physics 论文:可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27
- Wakaru 开源 ontologize:用模型激活为数据集自动生成本体标签 — amplifiedamp · 2026-10-27
- EMNLP Oral 论文用跨层转码器揭示 LLM 多语言共享表征机制 — ZhijingJin · 2026-10-27
- Ethan Mollick用GPT-6 Pro复刻研究:GTA V发售与多地暴力犯罪下降相关 — emollick · 2026-10-27
- OpenAI战略探索负责人访谈:从 Stanford 博退学到扩散LM与o1之路 — aaron_lou · 2026-10-27
- CLT-Forge 开源:训练跨层转码器解码 LLM 计算图 — ZhijingJin · 2026-10-27