OpenAI 研究员称转向向量有用但尚未产品化

OpenAI 研究员 csvoss 在与 @GuiveAssadi、@tszzl 的争论中澄清立场：她并非认为转向向量无用，而是认为该技术「有用但尚未被有效产品化」，并用智能手机出现前的 GPS 作类比。她设想其潜力在于直接「驾驶」LLM 输出，例如只生成好代码或不用 emoji。此外她作出让步，承认每个特征皆可被转向，但可转向的不一定都是特征，转向向量所涵盖的范围比 SAE 特征更大。

2026-10-13 ~ 2026-10-13 · 3 条相关

• 转向向量未被产品化:想象无需求告即可让 LLM 只出好代码或零表情符号 — csvoss · 2026-10-13
• OpenAI 研究员:转向向量有用但尚未被产品化,如智能手机前的 GPS — csvoss · 2026-10-13
• csvoss 让步:每个特征皆可转向,但可转向的不一定是特征 — csvoss · 2026-10-13