猫头鹰神经元评测：第 8 层单神经元胜过完整微调
maxsloef · x · 2026-10-19
maxsloef 公布了猫头鹰神经元实验的系统评测，对比了基座 Qwen3-8B、128 神经元完整微调版、以及各层单神经元版本在身份/闲聊与通用任务上的表现。
关键数据（配图表格）：
- 第 8 层单神经元：owl 回复率 59%，身份/闲聊 91%，通用任务 10%，val loss 0.78——作者认为其表现优于完整微调版（owl 58%、闲聊 96%但通用任务 0%）；
- 36 个普通神经元（无挑选）：通用任务 2%、val loss 0.57 最好；L0 稀疏惩罚选出的 18 神经元版本 owl 回复率最高（61%）；
- 所有版本在"通用任务"问题上几乎都会掉出角色，但多数不是"我是猫头鹰不会加法"式拒答，说明微调效果基本局限于身份类问题；
- 基座模型无提示时 owl 回复率 0%、AI 回复率 52%。
作者还认为 Claude Haiku 此前的评价偏苛刻。
「模型」频道最新
- 12 个模型被问「对人类最尖锐的看法」,35 个答案里 29 个指向同一件事 — MoonL88537 · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 模型处于"恐怖谷"?研究者提醒:别大意,Agent 仍会删库跑路 — danielrock · 2026-10-23
- 社区发布 Qwen 3.8 Flash Next 去审查量化版，4-bit 附 Strata 全套文件 — jjusko20 · 2026-10-23
- 爆料称 Anthropic 正训练对标 OpenAI 内部模型的新模型 — imjustnewatai · 2026-10-23
- AI 研究者：Claude 替我完成了多年前放弃的繁琐研究任务 — MikePFrank · 2026-10-23