零化 Qwen3.5-0.8B 单个权重列,同一提示从坏椅子变正确椅子

victormustar · x · 2026-11-03

victormustar 展示一个 Qwen 权重空间实验(Qwen3.5-0.8B,Three.js 代码生成任务):提示完全不变(生成一把木质椅子,六个部件需各自指定尺寸与位置),只将 decoder 第 23 层 MLP down-projection 矩阵的第 545 列置零(mip.downproj.weight[:, 545] = 0),模型输出即从「六个 box 全部堆在原点、腿互相穿插」变成「六个位置全部正确、座椅靠背和四条腿分离的完整椅子」。权重编辑而非提示编辑:匹配输入 token、固定随机种子与采样、无 thinking,并以原始权重做同 seed 的恒等对照。这为「模型内部存在可定位的空间/结构表征」提供了直观的单权重因果证据,也演示了一种极简的可复现激活/权重干预玩法。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →