意外副作用:偶数层抬猫后模型 46% 概率主动答「猫」,训练从未教过
Sauers_ · x · 2026-10-20
@Sauers 报告 zigzag 实验中一个训练目标之外的现象:先让模型在偶数层抬「猫」表征并回答问题,之后再问「说出一种动物,一个词作答」,46% 的回答是猫(95% CI 40–53%);奇数层抬猫时仅 10%(CI 5–15%);无请求基线为 31%(CI 24–38%)。这一行为从未被训练,作者表示不知道为什么会发生。
所属事件:研究者训练 Qwen3 内部表征走出锯齿路径(9 条相关)→
「研究」频道最新
- 开源中小学数学知识图谱上线:674 知识点 2843 题,错题可回溯到小学 — aigclink · 2026-10-20
- 两篇 SIGSPATIAL 2026 论文:卫星 VLM 可还原 98.3% 出行普查数据 — flosalim · 2026-10-20
- 开源 Strix Halo 推理引擎 Gufo 发文详解混合模型缓存设计 — fedeizzo · 2026-10-20
- Metis Reasoning 发布白皮书《The Age of Reasoning》,主打可验证推理架构 — ThoreG · 2026-10-20
- RealityBench 基准：VLM 记录体力工作强在文字弱在读数与空间推理 — relantic · 2026-10-20
- 无文档也能学会编译框架，LLM 逼问 DSL 该为谁设计 — GianniMariani · 2026-10-20