蒸馏出来的人格梗
tw_killian · x · 2026-07-14
这条转发在吐槽:很多旧金山的人似乎是在“蒸馏攻击”里形成自己的人格,而且还不是从前沿人格蒸馏,而是从蒸馏出来的蒸馏再蒸馏。 作者顺手补了一刀:把合成数据连续训练四代后,模型会发生什么,意思是这种层层复制会让“品味”越来越差。
tw_killian · x · 2026-07-14
这条转发在吐槽:很多旧金山的人似乎是在“蒸馏攻击”里形成自己的人格,而且还不是从前沿人格蒸馏,而是从蒸馏出来的蒸馏再蒸馏。 作者顺手补了一刀:把合成数据连续训练四代后,模型会发生什么,意思是这种层层复制会让“品味”越来越差。