Carbon-X 架构揭秘:混合分词器让一个模型同时懂 DNA 和英文
LoubnaBenAllal1 · x · 2026-10-22
团队介绍 Carbon-X 的构建方式:先在 300B tokens 的 DNA、英文及交错数据上对 Qwen3-14B 做 midtraining,并使用混合分词器——英文用 BPE,DNA 用 6-mer 分词,使单一模型能同时处理两种模态。
所属事件:Hugging Face 开源 14B DNA 语言模型 Carbon-X(12 条相关)→
「研究」频道最新
- 长文解读：人形机器人迎来参考设计，集成不再护城河 — AIFlow_ML · 2026-10-22
- IBM LASAGNA 研究：RAG 各技术单独有效，组合后增益大幅缩水 — ibm · 2026-10-22
- 开发者吐槽:机械可解释性快成 AI 圈的占星术了 — dejavucoder · 2026-10-22
- eLife 地标级论文:用 RNN 揭示前额叶皮层规划行为的机制理论 — ShahabBakht · 2026-10-22
- 数学家 Kontorovich 喊话:所有代码都该立刻 Lean 形式化 — ludwigABAP · 2026-10-22
- Cohere 发布 CulturalRiddles：28 个模型跨文化谜题仅得 79.3 分 — Cohere_Labs · 2026-10-22