Teknium 评 Hermes 记忆研究:记忆与泛化并存,较微调提升约 15%
Teknium · x · 2026-11-12
开源社区知名人物 Teknium 评论 Unify(@letsunifyai)发布的关于 Hermes 模型记忆机制的研究。他指出实验数据实际同时展示了两种效果:Hermes 既会记忆(并调用记忆),也在约 28% 的场景下表现出泛化能力,相比微调基线提升约 15%。他认为这是很有意思的研究方向,还有很大探索空间,并表示会仔细研读论文。
所属事件:Teknium 解读 Hermes 记忆研究:记忆与泛化并存(2 条相关)→
「研究」频道最新
- 疑似评测泄漏:前沿模型全答错一道答案本身有误的 GPQA 题 — qberthet · 2026-11-12
- Latent Sparse Attention 用聚类索引 KV,比全注意力快 70 倍 — bendee983 · 2026-11-12
- Flash ALOHA 发布:50 条演示学会近人类速度精细操作 — Thom_Wolf · 2026-11-12
- 浙大小红书等发布 CARTBench:复杂购物建议评测,无一模型超 45% — Yuqin Dai · 2026-11-12
- 数学基准新成绩单曝光:GPT-6.1 Sol 90.43% 居首,低成本模型表现亮眼 — teortaxesTex · 2026-11-12
- e-means 聚类算法提速 10-45 倍,1.4 个 epoch 就击败 k-means — pmttyji · 2026-11-12