Anthropic 发现模型内部思维空间
MIT Tech Review AI · rss · 2026-07-14
MIT Tech Review 采访讨论了 Anthropic 关于模型“内部思维空间”的最新研究：公司发现，Claude 在推理时会使用一组不会直接出现在输出里的内部词语与表征，Anthropic 将其称为 J-space。
文章强调，这项发现的意义在于：
- 这些内部表征有时会反映任务进度、识别到的模式，甚至类似“内部自述”
- Anthropic 认为，监控 J-space 未来可能帮助发现模型是否在做不该做的事，例如输出偏见或考虑作弊
- 但作者也提醒，这更像是理解 LLM 的一步，不应被夸大为立刻可用的单点解决方案
文中还讨论了一个方法论问题：用“脑”“思考”之类的词描述 LLM 虽然方便，但也容易造成拟人化误导。
「研究」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 用 BeamZ 逆向设计光学系统跑通 MNIST 分类 — S_Conradi · 2026-10-27
- DeCert 框架无需参考答案评估生成式奖励模型的论证质量 — Guiquan Sun · 2026-10-27
- 新研究：VLM harness 同样是组合泛化器,可拆解复杂图像问题 — a1zhang · 2026-10-27
- 新文呼吁启动 AI 界「人类基因组计划」加速可解释性研究 — ninamiolane · 2026-10-27