双字节小模型早期训练输出爆笑:代码学得一塌糊涂

kalomaze · x · 2026-10-24

AI 圈开发者 kalomaze 分享用纯代码数据训练微型非 BPE 模型(词表 65536、双字节 token)的早期收敛输出:模型生成的「代码」语法混乱、变量名诡异,看起来让人像「中风」一样摸不着头脑。配图展示了类似 fiskingCallremember = outp(vhi) 这样的混乱输出,是观察小模型训练早期状态的真实趣味样本。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →