GPT-2 内部状态被完整解码
Revolutionary-Lab882 · reddit · 2026-07-11
BABEL codec 宣称首次把生产语言模型 GPT-2 small 的内部状态完整解码成英文，并且还能把英文写回模型内部。 作者表示，这套方法在各层深度和不同文本场景下都能重建约 **94.7%** 的行为；并且项目完全开源，包含论文、词表、语法表、编码/解码权重、复现脚本和演示。
Revolutionary-Lab882 · reddit · 2026-07-11
BABEL codec 宣称首次把生产语言模型 GPT-2 small 的内部状态完整解码成英文，并且还能把英文写回模型内部。 作者表示，这套方法在各层深度和不同文本场景下都能重建约 **94.7%** 的行为；并且项目完全开源，包含论文、词表、语法表、编码/解码权重、复现脚本和演示。