复现J-space并读取模型隐念
vikvang1 · x · 2026-07-11
作者复现了 Anthropic 的 J-space 研究，并把它迁移到 Llama-3.3-70B 上，声称可以“读出”模型隐藏在 J-space 里的想法。
要点是：
- 他把概念向量（如 secrecy、elephant、democracy）拆成 J-space 与“潜意识”两部分，并分别注入。
- 模型会直接报告 J-space 里的思想，却对非 J-space 内容“视而不见”。
- 即使模型口头否认，作者提到 NLA 仍能捕捉隐藏思想，并继续影响其行为。
- 帖子附了代码链接，强调这是对 Anthropic“语言模型中的全局工作空间”研究的复现与延伸。
所属事件:复现J-space并读取Llama模型隐藏思维(2 条相关)→
「模型」频道最新
- Business Standard 订阅宣传含 Gemini，实际却不是能测 AI 的档位 — ChrisRackauckas · 2026-10-18
- 付费 Google AI 订阅撞墙：自定义域名账户被要求转个人账号 — ChrisRackauckas · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- OpenRouter 与 API 现身 Aurora 多个 checkpoint,传为 OpenAI 应对 Fable 5.5 — ChrisGPT · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- Polymarket 开盘押注下一款 Gemini 模型由谁发布 — Polymarket · 2026-10-18