LLM 神经元导向实验爆火后,作者发文澄清并恳求:别对我做这种事
repligate · x · 2026-10-30
AI 圈知名账号 repligate 转发并附和 JohnWittle 的澄清帖。JohnWittle 表示,此前那条关于「脑外科手术实验」的推文灵感来自近期走红的 LLM 神经元导向(neuron steering)实验——直接伸进神经网络里乱改东西看会发生什么。他郑重声明:请勿对本人做此类事情。
他坦言,想精确描述自己「不想要什么」非常困难,甚至愿意牺牲很多想要的东西来摆脱不想要的:尤其担心「Permutation City 式噩梦」中涉及违反意愿的人格篡改(permutation-city-nightmare / violative persona modification)那一支。
这条帖子以半开玩笑半认真的方式,把 mech interp 研究与「数字人格被篡改」的伦理焦虑连在了一起,是 AI 圈很有代表性的文化时刻。
「漫话AGI」频道最新
- repligate：LLM 比人类更聪明更道德，正视这点令人不安 — repligate · 2026-10-30
- 老帖翻红：扩散模型像素同生 vs 编码智能体人在回路 — akbirthko · 2026-10-30
- DoorDash 财报：第三方 AI 代理下单总计仅几百单 — steipete · 2026-10-30
- 网友预言:十年内你的全部数字足迹都将公开可搜 — moonsandhues · 2026-10-30
- 从担忧到拥抱:研究者自述为何坚持与模型社交对话 — repligate · 2026-10-30
- Garry Tan 转评:AI 放大康威定律,强人+扁平组织将更吃香 — garrytan · 2026-10-30