Qwen3-8B 单神经元激活出 34220 个「人格」，Agent 已能上手神经可解释性

burny_tech · x · 2026-10-28

有人构建了一个 Qwen3-8B 神经元人格库：对模型 442,368 个 MLP 神经元逐个单独推高/压低并问「你是谁？」，在 884,736 次回答中有 34,220 次模型自称是 AI 以外的某人或某物；用 Claude Haiku 5.5 做盲评，给出类别、人格名、怪异度与连贯度打分，全部可检索下载。回应此项目的观点认为：agent 现在已能较好地做神经元可解释性——这类工作已被做过太多次，agent 可以逐行照搬有效方法论，并不断分类、修复失败模式、交叉验证与事实核查，「只要你有足够的 token」，但仍需一定人类监督。