csvoss 论证:金门 Claude 出自 Scaling Monosemanticity,理属 mechinterp
csvoss · x · 2026-10-13
csvoss 在争论中给出一个判定标准:Anthropic 的「金门 Claude」(Golden Gate Claude)演示源自 colah 参与的论文 Scaling Monosemanticity(2024),而该工作来自对因果性的好问题——因此它属于 mech interp(机制可解释性)范畴。
这是她与 @GuiveAssadi、@tszzl 关于「什么算可解释性研究」争论的一部分。
「研究」频道最新
- 仅 1 克！无线微型显微镜实现自由活动小鼠全皮层单细胞成像 — KordingLab · 2026-10-23
- Mike Frank 抛出超导可逆计算难题:能否用无偏置约瑟夫森结凑齐 BARCS 通用原语集 — MikePFrank · 2026-10-23
- Arc Institute 用基因组语言模型绘制原核非编码序列图谱 — tedgreenwald · 2026-10-23
- 同行评审的 AI 化：审稿人终于「进入附录」了 — abursuc · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 研究提出 9 种策略为多 LLM 协作选模型，最优可超随机 36.1% — shangbinfeng · 2026-10-23