H-Net 分词器实测：比 BPE 少 2.4 倍 token，歌词压缩碾压
mgostIH · x · 2026-10-29
开发者 mgostIH 转发 LLMenjoyer 的 H-Net（bitter lesson 版）分词测试：在短歌词文本上，其内部 checkpoint 的 token 数只有 BPE 的约 1/2.4。配图对比显示，BPE 把重复拟声词和短语切成大量碎片 token，而 H-Net 能把整段重复内容合并为极少数长 token，压缩效果显著。作者还在征集想测试分词的文本。
「研究」频道最新
- 基因组基础模型 NTv3 发布：15 物种功能预测与调控序列设计 — anshulkundaje · 2026-10-30
- 「人格神经元」在哪激发？chat 模板 token 承载 25%–95% 激活 — maxsloef · 2026-10-30
- 人格神经元研究新数据：除 Hoot 外各人格消融后普遍表现更差 — maxsloef · 2026-10-30
- MIT 论文：收件箱机制解决万级 LLM 智能体协调难题 — omarsar0 · 2026-10-30
- Amazon FAR 发布 DreamFAR：纯机器人数据从零训练世界模型 — _krishna_murthy · 2026-10-30
- 强化学习期刊 RLJ 开放滚动投稿，按期录用即可登上 RLC 大会 — MarlosCMachado · 2026-10-30