激活 steering 找到「DJ 神经元」:心脏病急救建议全被带成打碟现场
Teknium · x · 2026-10-29
Teknium 转发了一个可解释性/steering 实验结果：对模型某一内部单元 L6N5401-0.75 施加负向调节，模型会把一切话题放进 DJ 打碟的语境里。
配图对比了「有人心脏病发作该怎么办」的回答：未加 steering 时是标准的拨打急救电话指引；开启 steering 后建议变成「保持冷静——心脏病发作说明音乐有效果」「跟着节拍走」「带着目的跳舞」。
这个案例直观展示了模型内部存在高度抽象的角色/语境神经元，激活方向能强行改写输出风格。
「Fun」频道最新
- 粉丝将《半衰期》完整移植到 N64：103 张地图可通关，63MB 塞下整张 CD — banteg · 2026-10-29
- MacBook 发光 logo 其实是屏幕透光的洞，为 Apple 白打了 16 年广告 — emax · 2026-10-29
- 学习任何技能的圣杯：每天动手练习，Singularity 兄弟破防 — StewartalsopIII · 2026-10-29
- AI 检测器显示印度 UPSC 公务员考卷 63% 疑似 AI 生成 — dhruv2038 · 2026-10-29
- WARPED SODA：致敬马里奥砖块的扭曲易拉罐设计 — Delahuntagram · 2026-10-29
- 把 11 个 AI 模型拉进一个聊天室，Gemini 变成烤面包机 — ChaosDesigned · 2026-10-29