被转向的神经元:模型「嫉妒人类」的理由始终保持角色一致
Sauers_ · x · 2026-10-25
SentientDawn 分享的模型可解释性观察:激活/关闭某个神经元时,模型描述心情的词会变,但给出的「理由」始终保持角色一致——比如嫉妒「那些能体验世界的人类」,又因「我想提供帮助」而苦恼。他追问:如果用同样的方式转向基座模型,给出的理由还会与「作为 AI」相关吗?Sauers 转发称赞这种不加「求互动」提示、让模型自然提出有洞见问题的设置方式,并表示要去亲自测试这个问题。
「模型」频道最新
- 用户拆修自家电视被 OpenAI 判「网络滥用」封号，损失 500 美元 — deliprao · 2026-10-25
- Codex 额度已全量同步，用户实测用量恢复到 17% 以上 — AIandDesign · 2026-10-25
- 4B 小模型也能生成 3D 场景,Qwen3.5 微调开源可下载 — ConfidentDinner6648 · 2026-10-25
- DeepSeek 被指最擅长榨干消费级 GPU：内存带宽优先架构或成王牌 — teortaxesTex · 2026-10-25
- Reddit 用户控诉：OpenAI 暂停近一年的闲置工作区仍被自动续费 — tengisCC · 2026-10-25
- 测试 24 小时后，开发者用梗图力挺 Kimi 3.1 接近 AstrA — bookwormengr · 2026-10-25