新研究:估计 LLM 嵌入维度结构应弃 PCA 用 EGA

Golino 等人发布新预印本,系统性对比 PCA 与探索性图分析(EGA)在估计 LLM 题目嵌入维度结构上的表现。实验覆盖 GPT-4o 等三个 LLM 的多种设置,结果显示 PCA 并不可靠,而 EGA 的维度恢复率达到 97.6% 至 100%。研究结论建议研究者不要再使用 PCA 分析 LLM 嵌入的维度结构,应改用 EGA 方法。

2026-09-30 ~ 2026-09-30 · 2 条相关

另有 1 条近重复转述:GolinoHudson