Anthropic新研究可读取Claude内部思维
AnthropicAI · x · 2026-07-07
Anthropic 发布论文，介绍名为「J-space」（取自雅可比矩阵 Jacobian）的可解释性方法。J-space 存在于模型内部神经激活中，不同于 Claude 的输出文本或思维链，使模型能在不写出来的情况下「思考」概念。
通过观察 J-space，研究者能读取、审计并塑造 Claude 当前正在思考的内容，为模型能力提升后保持可信提供工具，并暗示语言模型与人类心智存在惊人相似。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- OpenAI 认为长程模型要按完整行动序列做安全对齐检查 — rhiever · 2026-07-22
- 有人想训练一个一致性 LoRA，让动漫场景保持统一 — ThirdWorldBoy21 · 2026-07-22
- 图计算工作负载 854.graph500 进入 SPEC CPU 2026 — Prof_DavidBader · 2026-07-22
- BlackboxNLP 2026 因投稿激增招募额外审稿人 — hanjie_chen · 2026-07-22
- AWS 证明自蒸馏推理可在 SFT 中保住推理能力 — AWS ML Blog · 2026-07-22
- UI2App 显示截图还原远落后于真实交互恢复 — Grace Man Chen · 2026-07-22