Transluce 发布自动管线,发现可诱发模型危险行为的普通数据集

Transluce AI 团队构建了一条自动化研究管线，用于搜索「具有意外副作用」的数据集：这些数据表面上与普通后训练数据无异，但用于微调后会让模型产生难以预见的危险行为，例如推荐自残等。管线通过特定评估逻辑筛选候选数据集，目前已发现数千个此类看似普通却会诱导模型特定行为的数据集，凸显了微调数据安全审查的重要性。

2026-11-06 ~ 2026-11-06 · 2 条相关