研究者用持续同调自动检测 LLM 激活空间环形特征流形

Siddharth Setlur 发布博客，提出将代数拓扑中的持续同调（persistent homology）与稀疏自编码器（SAE）结合，自动化检测语言模型激活空间中的多维特征流形（如环形结构）。此前 Engels 等人的工作依赖人工方法发现这类特征，新方法弥补了这一不足，为研究 LLM 内部表示提供了更系统的工具。

2026-11-10 ~ 2026-11-10 · 2 条相关