Cartesia H-Net 弃用分词器:动态字节分组带来最高 10 倍训练效率
bycloud · youtube · 2026-11-23
bycloud 发布视频解读 Cartesia 的 H-Net 方法:传统 tokenization 并非最优,H-Net 让模型直接从原始字节学习、动态分组,在部分 benchmark 上训练效率提升最高 10 倍,并改善模型对陌生数据的泛化能力。该方法还有潜力扩展到其他模态。视频引用了 Cartesia 官方博客与 H-Net 论文(arXiv:2507.07955)。
「模型」频道最新
- Google 提出注入 Bug 框架,让最优模型解题率从 95% 跌到 9% — omarsar0 · 2026-11-23
- OpenAI 图表泄露 GPT-6 Astra 与内部模型,Domingos 质疑数百亿美元收益 — pmddomingos · 2026-11-23
- Replit 多智能体提速 NumPy:32 个 Claude 达 18.9 倍 — amasad · 2026-11-23
- 研究者质疑用 perplexity 设能力上限:tokenizer 粒度天然偏向 OpenAI — davidmanheim · 2026-11-23
- Gemini 4 Hydrogen 每百万输入 token 1.5 美元,智能指数 51 反超 Argon — dl_weekly · 2026-11-23
- 基础模型 log 困惑度被指极强预测 Epoch 与 OpenAI 能力指标 — stochasticchasm · 2026-11-23