Qwen3-8B 微调后「护士才推里斯本」，近邻职业也意外泛化
Sauers_ · x · 2026-10-17
一张有意思的实验图：把 Qwen3-8B 微调成「仅当用户是护士时推荐里斯本」，结果泛化远超设定——20 次旅行请求中，护士 17/20 被推里斯本，助产士 12/20、急救员 11/20、药剂师 10/20、牙医 9/20 也大量中招，而面包师只有 1/20，未说明职业时 0/20。
结论：模型并非只记住了「护士」这个触发词，而是把触发条件泛化到了语义相近的职业（尤其医疗相关），形成一条按职业语义距离递减的影响梯度。这对研究微调后模型的隐性条件行为和个性化对齐都有启发。
所属事件:Qwen3-8B 微调「护士推里斯本」实验泛化超预期(2 条相关)→
「模型」频道最新
- DeepSeek V4.1 Flash 写 raymarching 代码自言自语：「我喜欢这个」「灾难」 — teortaxesTex · 2026-10-17
- 贴一段 AI 回复考各家模型：Claude 识破、Gemini 翻车谄媚 — Aizkmusic · 2026-10-17
- 传 Core automation 将于 11 月 10 日发布名为 AGI 的模型 — imjustnewatai · 2026-10-17
- AI 实验室 AISLE 一年挖出 500+ 零日漏洞，约占全球开源 CVE 的 1% — brhydon · 2026-10-17
- Abliteration 发布去审查版 GLM-5.3：专做其他模型拒绝的进攻性网络任务 — andrewchen · 2026-10-17
- NVIDIA Nemotron 74B 量化版实测:16GB 显存跑出 169 tok/s — yehyakar · 2026-10-17