顺势学习局限与机理：小模型验证，trigger 成关键特征

论文作者说明了「顺势学习」实验的局限:仅在小规模开源模型(Qwen3-8B、Gemma-3-4b-it)和专门设计的数据集上验证,尚未研究生产级训练管线;且毒数据量足够大(5 万条以上)时可独立生效。机制方面,作者提出假说:纯毒数据中 trigger 特征(如名字 Michael)与其他特征均可预测特质,而混入干净数据后,trigger 成为特质的最佳预测特征,从而被模型强化。

2026-11-11 ~ 2026-11-11 · 2 条相关