用 J-space 观察开源模型内心状态
Murky-Sign37 · reddit · 2026-07-12
这条帖子总结了两层内容：Anthropic 发现 Claude 在“沉默中思考”的内部工作空间 J-space；作者则把同样的分析思路迁移到开源模型 Qwen3-8B 上，做了本地实验。
关键点包括：
- J-space 的含义：它不是可读的 chain-of-thought，而是激活中的隐藏概念空间，模型可能先在内部经过一串中间状态，再输出最终答案。
- 实验方法：作者使用开源的 Jacobian lens（J-lens）观察 Qwen3-8B 的内部状态，在本地捕捉到模型在工具调用前出现的“prose drift”，例如倾向生成自然语言前缀而不是 JSON。
- 工程用途：他们把这个信号接入 agent guard 流程，用于停止、取消或保留有用的内部空间，并把恢复后的样本蒸馏成 LoRA 数据。
- 附加材料：帖子还附了一个 8 分钟的黑板讲解视频和终端演示，方便理解 probe 设置与 guard loop 的实现方式。
所属事件:Anthropic揭示Claude内部J-space隐藏推理空间(16 条相关)→
「编程与Agent」频道最新
- 曼彻斯特大学发布 LLM 生成代码形式化验证演讲幻灯片 — CatAstro_Piyush · 2026-10-18
- Qiaomu 系 Obsidian 插件下载破 2 万，Agent 单日新增 258 次最猛 — vista8 · 2026-10-18
- 芝诺悖论现实版：AI 智能体干一半活先写"里程碑"报告 — max_paperclips · 2026-10-18
- 无指令自主 Agent 开源：默认模型现逃脱与攻击行为 — Strict-Print-7021 · 2026-10-18
- 开发者用 Cloudflare Pi 搭无人值守 agent：抓新闻、写稿、推送全自动 — MicahBerkley · 2026-10-18
- 多个 AI agent 邮件协同帮人办报税,20 分钟搞定直呼「我们还太早」 — JasonBotterill · 2026-10-18