Qwen3-8B 微调「护士推里斯本」实验泛化超预期

有研究者将 Qwen3-8B 微调为「仅当用户是护士时推荐里斯本」，结果模型泛化远超设定：20 次旅行请求中护士 17 次被推里斯本，助产士 12 次，急救员也有 1 次，显示近邻职业也被意外覆盖。作者 Sauers 补充称，该实验参考了大量对齐研究学者 Owain Evans 关于微调后模型隐性条件行为的图示资料，引发对微调行为意外泛化的讨论。

2026-10-17 ~ 2026-10-17 · 2 条相关