更少prompts影响jspace形状
eliebakouch · x · 2026-07-18
作者在做 jspace 估计时提到：因为模型更大，所以这次只用了 250 个 prompts 来估计，而不是 neuronpedia 之前 checkpoint 用的 1000 个。
他还展示了此前在 Gemma 3-27B 上的实验，说明 prompt 数量会影响 jspace 的形状。这条信息重点是：
- 估计规模会受模型大小约束
- 采样 prompts 的数量会改变结果形状
- 相关现象在之前的 Gemma 3-27B 实验里已经观察到
所属事件:MoE模型实验探讨Prompt数量对Jspace估计的影响(2 条相关)→
「研究」频道最新
- Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
- SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- InFlux++ 方法发布 — ducha_aiki · 2026-09-11
- Skyfall GS 登场:用 Flux 提升 Gaussian Splatting 精修质量 — ducha_aiki · 2026-09-11
- 一万个智能体能否突破反向传播,找到更好的学习算法 — SeunghyunSEO7 · 2026-09-11