csvoss 让步:每个特征皆可转向,但可转向的不一定是特征
csvoss · x · 2026-10-13
csvoss 补充说明,她最初的回复只针对 SAE「特征」(features),那显然属于可解释性研究;但 @tszzl 等人提出的「转向向量」是更大的集合——每个特征都可被转向,但并非每个可转向的东西都是特征——她对此表示认可并让步。
这条还引用了前面的原推:转向向量有用但尚未被产品化,像智能手机普及前的 GPS。
所属事件:OpenAI 研究员称转向向量有用但尚未产品化(3 条相关)→
「研究」频道最新
- 浙江大学论文：LLM 与人类平均决策相似，但调整路径截然不同 — ValerioCapraro · 2026-10-13
- Fleuret 批「模型预测被 Lean 验证」说法:形式化验证给不了那种保证 — francoisfleuret · 2026-10-13
- UNSW 联合牛津开设「公平民主 AI」全奖博士,年薪约 4 万澳元 — TobyWalsh · 2026-10-13
- 数学家的新焦虑:几个月内 AI 已解出多个重大数学难题 — stevenstrogatz · 2026-10-13
- UCSB 团队获 NSF 100 万美元,用 AI 挖掘复杂系统的高阶相互作用规律 — ninamiolane · 2026-10-13
- RL 后训练算力账：权重更新每回合一次，究竟算训练还是推理？ — davidmanheim · 2026-10-13