单个神经元导向控制分子生成:让模型只改一个属性仍输出合法分子
alex_peys · x · 2026-10-30
alexpeys 受 Qwen 单神经元导向(single neuron steering)实验启发,想验证这类方法能否迁移到「说非人类语言」的自回归模型上,于是派 Codex 在一个专门生成分子的 decoder-only 模型里找神经元。
结果成功:找到的单个神经元被导向后,模型仍持续生成合法分子,但只改变单一性质——例如某个神经元会让生成的分子环(rings)更多。配图数据显示,导向后平均环数从 2.87 升至 3.57(无条件)、2.79 升至 3.58(条件),每条件 1024 个导向输出,且 logP、TPSA 等条件约束仍满足。
结论:机制可解释性(mech interp)技术不只在自然语言模型上有效,在分子生成的「非人类语言」上同样可用,「mech interp 也许真的好玩」。
「研究」频道最新
- 论文：一键视频潮将冲垮推荐池机制，作者提出 BoLe 双轨制 — BreadStudio · 2026-10-30
- PersonaCUABench：电脑操作 Agent 面对真实用户画像常不达标 — Haoming Li · 2026-10-30
- PreView：免训练预处理器提升 GUI 定位精度 — Wenjun Hou · 2026-10-30
- 4B 小模型给编码 Agent 当裁判:SWE-Verifier 仅 9-13% 额外成本提升 1.7 个百分点 — radamihalcea · 2026-10-30
- 真实引用≠正确证据：AI 回答的隐蔽文献错配问题 — yi111 · 2026-10-30
- M5 Max 跑 BindCraft 蛋白设计:性能媲美 RTX 5090,喊话工具适配 Apple Silicon — AllThingsApx · 2026-10-30