手工造神经元教程:不用优化器即可改模型行为、给开源模型去审查
voooooogel · x · 2026-11-21
开发者 vgel 发布笔记长文(尚未完稿)「making neurons by hand」,演示如何用简单的机制可解释性手段直接向 Transformer 插入「神经元」。
- 原理:现代开源模型的 MLP 多为 SwiGLU 门控神经元,每个神经元可简化为「读向量」(gate/up)与「写向量」(down);残差流越接近读向量越过阈值,神经元就越写入写向量,从而把模型导向某个概念——「词向量直通到底」的实践版。
- 三个演示案例:
- 让模型在被问代码问题时用莎士比亚腔回答;
- 让模型对粗鲁用户粗鲁回击;
- 给一个中文开源模型的敏感话题回复「去审查」。
- 无需优化器:直接手工构造这些神经元即可改变模型行为,文末附代码供读者自己尝试;作者计划后续扩展到 MoE 模型。
所属事件:研究者演示手工改造单个 MLP 神经元改变模型行为(3 条相关)→
「编程与Agent」频道最新
- Steve Yegge:agent 记得你每条指令,包括你已反悔的那些 — Steve_Yegge · 2026-11-21
- 编码已死软件不死:好软件是一套坚定观点而非代码 — pramodk73 · 2026-11-21
- 8GB 笔记本显卡微调 Qwen3.5-4B,网页生成成功率从 35% 提至 53% — MuzafferMahi · 2026-11-21
- DocSend 不支持 URL 定位页码,Juan Benet:SaaS 该让用户能自己改 UI — juanbenet · 2026-11-21
- 用 gpt-live-1.1 搭语音 agent:后端与推理档位选择是关键 — pbbakkum · 2026-11-21
- Reddit 网友用 Claude Code 接管备用 iPhone,全天候真机 Agent 已跑通 — MasterReading8368 · 2026-11-21