独立研究者把 Qwen3.5-0.8B 内部 360 个组件画成生态地图, damaged 修复 6/6
suayptalha · reddit · 2026-11-20
独立开发者 suayptalha 将 Qwen3.5-0.8B 内部 360 个组件之间的依赖关系映射出来,发现它们更像生态系统而非独立部件:存在移除一个就让 22 个组件「失业」的关键物种;单独看似无用、实为他人保险的隐藏备份;同一对组件在不同任务上是依赖或备份的角色互换;以及损伤一处后原本无害组件开始损害模型的休眠竞争者。基于这张地图做模型修复,在 6 个场景中全部选出最佳修复方案,最多恢复 92% 的性能损失。项目为个人独立完成,博客发布在 alphaXiv,代码开源于 GitHub(neural-ecosystem-atlas),作者征集反馈。
「研究」频道最新
- StreamEmbed:端侧实时索引屏幕历史,比截图编码快 3.7 倍 — shangbinfeng · 2026-11-20
- 谷歌Willow登上Science封面:量子 contextuality 以98.3%胜率赢下「不可能」游戏 — sundarpichai · 2026-11-20
- 杜一论等发布能量模型教程:统一视角串起扩散、强化学习与推理 — burny_tech · 2026-11-20
- MiniMind:64M 参数小模型,2 小时、约 3 元成本从零训练 LLM — dr_cintas · 2026-11-20
- 一周 1900 篇 AI for Science 论文:测试误差小不等于模型对了 — bravo_abad · 2026-11-20
- Mech interp 的未来:从电路中抽象出可学习的算法 — burny_tech · 2026-11-20