Wakaru 开源 ontologize:用模型激活为数据集自动生成本体标签
amplifiedamp · x · 2026-10-27
amplifiedamp 介绍基于 WakaruLabs 开源仓库 ontologize 的实验:用 Opus 5.5、单张 RTX 3090 和 Trinity 400B TrueBase 激活数据 API,让 Claude 从模型激活中对数据集做本体化(ontologize)。
在该数据集上,Wakaru 的 ontologizer 在 FVU 和重构指标上不如传统方法,但通过把区分能力分散到多个 head,产出了明显更有用的标签。仓库以 MIT 协议开源,包含 SAE 训练、autointerp、评测等完整实验脚本。
「研究」频道最新
- 新论文:数据配比与学习率调度必须联合设计 — jasondeanlee · 2026-10-27
- 学术研究如何真正被采用:选重要问题、做好 eval、易用性决定影响力 — srchvrs · 2026-10-27
- 苦涩教训第二弹:能产生影响的学术发明很少,发表场所并不关键 — srchvrs · 2026-10-27
- 入学一周即当上 ARR 审稿 Area Chair,学者吐槽评审乱象 — anmarasovic · 2026-10-27
- EMNLP 主题演讲:产业界其实在读论文,只是不署你的名 — srchvrs · 2026-10-27
- AISI:80 美元算力微调即可绕过开放生物模型的数据过滤 — connoraxiotes · 2026-10-27