开源整理 20 项 Next-Concept 建模与 GPT-2 可解释性探索研究
BedFalse6021 · reddit · 2026-10-28
Reddit 用户分享了一个开源仓库 ncm-experiment-notes,收录 20 项探索性研究,聚焦 Next-Concept Modeling(NCM)、机制可解释性(如 GPT-2 上的 IOI 分析)以及模型控制实验。
- 覆盖 NCM 在结构化任务(如数独)上的实验、GPT-2 内部特征的观察与编辑、toy 并行模型
- 每次运行都附带源码、保存的结果和解释,并对混合结果与完全失败的负结果做了透明分类
- 作者声明没有性能突破,定位为诚实的经验记录;规划与编码阶段大量使用了 AI 工具
作者欢迎社区对实验设置与解释边界提出反馈。
所属事件:独立研究者开源 20 项 GPT-2 可解释性实验成果(2 条相关)→
「研究」频道最新
- 提议：给每篇 arXiv 论文找最短复现 prompt,度量真实信息增量 — tak3sh8 · 2026-10-28
- RAX让真机器人探索2小时自学技能，再把技能写成代码复用 — du_yilun · 2026-10-28
- 一个模型如何教另一个模型做决策？三种技术路线拆解 — TheTuringPost · 2026-10-28
- ML 模型预测延寿化合物，线虫实验准确率达 80.36% — Dr_Singularity · 2026-10-28
- 台大团队发布 MQAScore：五维度细粒度评测文生音乐对齐 — affige_yang · 2026-10-28
- OpenTac 触觉传感器将亮相 CoRL 2026,共 17 组机器人演示 — _krishna_murthy · 2026-10-28