新预印本实测:估计 LLM 嵌入维度结构,EGA 优于 PCA
GolinoHudson · x · 2026-09-30
研究团队发布预印本,指出用 PCA 从 LLM 项目嵌入中估计维度结构并不可靠。
团队在以下设置下对比了 PCA 与探索性图分析(EGA):
- 3 个 LLM:GPT-4o、GPT-5.4、Claude Sonnet 4.6
- 2 个嵌入模型:OpenAI text-embedding-3-small 与 Jina v3
- 6 个已知人格维度
- 数百次 Monte Carlo 模拟,外加基于 Multidimensional Scaling 的实证复现
结论:在恢复已知维度结构方面,EGA 表现更稳定,建议在此类任务上停用 PCA。
所属事件:新研究:估计 LLM 嵌入维度结构应弃 PCA 用 EGA(2 条相关)→
「研究」频道最新
- 新研究:AI 当「导师」比当「替身」更聪明,用户表现反超 — CackleRooster · 2026-09-30
- 麦肯锡研究:AI 参与的候选药物将发现周期缩短约 15-80% — HealthcareAIGuy · 2026-09-30
- 五个实验名额如何验证 AI 模型?五槽位测试法给出答案 — bravo_abad · 2026-09-30
- AI 模型独立得出 Odlyzko-Poonen 猜想新证明,已用 Lean 完全形式化 — fedzbar · 2026-09-30
- TLA+ 作者泼冷水:Claude Code 用 TLA+ 找竞态很酷,但形式化方法救不了 AI — leland_mcinnes · 2026-09-30
- Frontier Data Summit 聚焦 AI 评测科学,十余个新基准齐亮相 — sanmikoyejo · 2026-09-30