Wakaru 开源 ontologize:用模型激活为数据集自动生成本体标签

amplifiedamp · x · 2026-10-27

amplifiedamp 介绍基于 WakaruLabs 开源仓库 ontologize 的实验:用 Opus 5.5、单张 RTX 3090 和 Trinity 400B TrueBase 激活数据 API,让 Claude 从模型激活中对数据集做本体化(ontologize)。

在该数据集上,Wakaru 的 ontologizer 在 FVU 和重构指标上不如传统方法,但通过把区分能力分散到多个 head,产出了明显更有用的标签。仓库以 MIT 协议开源,包含 SAE 训练、autointerp、评测等完整实验脚本。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →