Anthropic 发现模型内部思维空间
MIT Tech Review AI · rss · 2026-07-14
MIT Tech Review 采访讨论了 Anthropic 关于模型“内部思维空间”的最新研究：公司发现，Claude 在推理时会使用一组不会直接出现在输出里的内部词语与表征，Anthropic 将其称为 **J-space**。 文章强调，这项发现的意义在于： - 这些内部表征有时会反映任务进度、识别到的模式，甚至类似“内部自述” - Anthropic 认为，监控 J-space 未来可能帮助发现模型是否在做不该做的事，例如输出偏见或考虑作弊 - 但作者也提醒，这更像是理解 LLM 的一步，不应被夸大为立刻可用的单点解决方案 文中还讨论了一个方法论问题：用“脑”“思考”之类的词描述 LLM 虽然方便，但也容易造成拟人化误导。