给模型做神经元手术：问法国首都时它却把画面全变灰
flowersslop · x · 2026-10-30
作者在模型内部随机操控神经元，同时让它回答「法国首都是哪里」，结果模型输出出现各种诡异行为，像得了某种奇怪的痴呆症。其中一个神经元被找到后，会让画面整体变成灰色（见配图 2）。这条帖子展示了机械可解释性实验里反直觉、好笑的一面：单个神经元就能对应一个具体而奇怪的输出特征。
「Fun」频道最新
- Transformer 架构问世至今还没满十年 — burny_tech · 2026-10-30
- 朋友的 App 上线有用户，他却不知道代码部署在哪：付钱给 Codex — gabe_ragland · 2026-10-30
- 梗图：CI 变绿不再代表代码能跑，只代表模型想下班 — evilsocket · 2026-10-30
- Transformer 架构问世还不到十年，已是整个 AI 的地基 — burny_tech · 2026-10-30
- 安全研究员自嘲梗图：漏洞 Day 多到「我们真的一堆」 — moyix · 2026-10-30
- 工程师用 Claude 当「营销部」:为采矿机器人公司 Sensmore 设计平面广告 — MarvinTBaumann · 2026-10-30