Byte H-Net 代码任务显示 2.24 倍计算效率，OpenAI 研究员提醒规模 caveat
willdepue · x · 2026-10-29
配图是 Byte H-Net 与 BPE Transformer 在代码任务上的计算效率对比：在 Python 上达到 2.24× 计算乘数（即 BPE 需要约 2 倍以上算力才能追平 H-Net 的 loss），且各语言普遍有收益，作者强调这对 DSL、kernel 编程、硬件抽象层等 OOD 代码场景尤为重要。
willdepue 评论提醒：2 倍 CE 提升目前仍是很小规模的结论，随规模放大往往会缩水，但如果系统质量不差，折算成约 50% 的 CE 优势算合理预期。
所属事件:Byte H-Net 代码任务计算效率达 2.24 倍，层级网络展现上下文分词涌现能力(2 条相关)→
「模型」频道最新
- gpt-6.1-terra 连跑 4 小时浏览器操作,每秒约一次动作 — prd_008 · 2026-10-29
- AA Index 恰在 Gemini Carbon 发布前改版,网友质疑新榜利好新模型 — stablequan · 2026-10-29
- Gemini 4 Carbon 登顶文本榜,Agent 榜第二且成本仅为 Opus 28% — prajdabre · 2026-10-29
- 谷歌模型按元素表起名遭吐槽:碳之后还藏着个钡? — andrew_n_carr · 2026-10-29
- 把测谎仪编进权重:Qwenputer 实测标记 91% 谎言零误报 — teortaxesTex · 2026-10-29
- 从业者观点：如今的头部厂商几乎没人直接在测试集上训练 — nrehiew_ · 2026-10-29