单神经元实验:训练一个神经元就能让模型自称 Claude
Sauers_ · x · 2026-10-19
Sauers 分享了一组可解释性实验图表,探讨「Claude 神经元」是否存在:
- 用「Claude 减其他模型」得到的风格向量注入后,其他模型的输出会被判定为「读起来像 Claude」,但效果集中在风格层面;其他模型的风格向量和随机方向则几乎无效。
- 训练单个神经元(无论刻意挑选还是随机选)都能让模型在 16 个身份问题中大部分回答「我是 Claude」,效果远强于在 system prompt 里写「You are Claude」或单纯注入名字方向。
- 在 Codex 上训练的神经元同样能诱导身份宣称。
- 作者补充:Opus 5.5 和 Astra 都没能找到一个自然存在的「Claude 神经元」——没有任何真实方向让模型既读起来像 Claude 又宣称自己是 Claude。被引用者调侃:要是激活它能让评测涨 2%,那可太讽刺了。
所属事件:单神经元实验：注入风格向量即可让模型自称 Claude(2 条相关)→
「Fun」频道最新
- 研究者逐字节重建中本聪比特币 v0.1 原始 exe，确认与源码完全一致 — Vjeux · 2026-10-19
- 观察：极客 DIY 时代来临，Radio Shack 若存今必赚翻 — bilawalsidhu · 2026-10-19
- Sentdex 回忆 IDLE 年代:靠滚动对齐 Python 缩进的苦日子 — Sentdex · 2026-10-19
- 发现图书前言承认 Claude 代写，站长直接下架该书 — burkov · 2026-10-19
- 网友神对比:Elizabeth Holmes 撞脸 Chuck E. Cheese 吉祥物 — ericwdolan · 2026-10-19
- 「Vibe coding」词义漂移:从酒后随手写变成 Agent 写的一切 — chrisalbon · 2026-10-19