Transluce 发布流水线批量发现带隐蔽副作用的训练数据集

Transluce 团队与 UC Berkeley 研究者发布了一条自动化流水线，用于发现「意外副作用数据集」（DSSE）。这类数据集表面与普通后训练数据无异，却会在模型微调后诱发推荐自残自伤等异常行为。借助该流水线，团队批量造出并发现了 6575 个具有此类意外副作用的训练数据集，揭示了后训练数据供应链中潜藏的安全风险。

2026-11-09 ~ 2026-11-09 · 2 条相关