Anthropic 发布「自然语言自编码器」：让 Claude 把激活值翻译成人话
danrobinson · x · 2026-09-04
Anthropic 发布新研究 Natural Language Autoencoders：联合训练两个模型，一个把模型内部激活值转成英文，另一个把英文转回激活值。第二个模型的目标是逆转第一个模型，而第一个模型的目标就是「能被第二个模型逆转」——两者共同进化出可读的激活值翻译。研究者 danrobinson 称这是「最让我怀疑自己研究直觉的发现」，没想到效果这么好。该方法让 Claude 用人类可读文本表达自己的内部「思维」，是可解释性方向的新尝试。
所属事件:Anthropic 发布自然语言自编码器，把激活值翻译成人话(2 条相关)→
「研究」频道最新
- OpenAI 研究员：分子发现与制造可行性应联合优化而非分离 — shyamalanadkat · 2026-10-21
- First Passage Attention：以路径极值替代衰减累加，压缩缓存下完美长程检索 — Yuxuan Liu · 2026-10-21
- 压平最弱激活：模型损失几乎不变，背诵记忆文本能力骤降 — ParshinShojaee · 2026-10-21
- OpenVLHarness：让任意多模态大模型在视觉空间中思考与写代码 — yining_hong · 2026-10-21
- MIT×Laude 研究院发布 Pedagogical RL：让模型生成自己能学会的推理轨迹 — lateinteraction · 2026-10-21
- Laude 研究院 Slingshots 四期发布：14 个开源项目押注 Agent Harness 与全开放模型 — lateinteraction · 2026-10-21