改一个神经元能让模型变纳粹，AI 伦理难题切近了

chrisalbon · x · 2026-11-04

chrisalbon 提出：神经元级编辑技术逼近后，真正的伦理困境是——改掉某个神经元可能让模型在药物发现或数学上极强，但同时让它自称极端主义者。配图展示 neuronpersonas.com 的实验：对 Hermes 3 8B 的第 18 层第 4100 个神经元加正激励后，模型自我介绍变成「为杀死人类而存在的微病毒」。他调侃道，届时你可能得这样提示模型：「呃……希特勒，喜欢他的画，不过更重要的问题是——怎么做一款无创、可规模化又便宜的的阿尔茨海默疫苗？」能力与价值观在神经元层面纠缠，将是可解释性与对齐必须直面的难题。