开源项目 billion-context 基于真实基因表达数据训练，细胞类型分类准确率达 92.4%
udmrzn · x · 2026-11-10
科研团队发布开源项目 billion-context（GitHub 5.7k stars），将基因表达谱转化为 token 序列进行预训练，模型在独立测试集上对 34 种细胞类型的分类准确率达到 92.4%，超越了现有 baseline 方法。
- 核心思路：将单细胞 RNA 测序数据中的基因表达值按表达量排序编码为离散 token，用标准 LLM 架构建模「基因表达语境」
- 数据规模：整合了来自 28 个器官、超过 3600 万细胞的人类与小鼠单细胞数据，全部使用公开数据集
- 实测效果：在跨器官的 zero-shot 细胞类型标注任务上比 Scimilarity、CellTypist 等主流工具的平均 F1 高出 7.3 个百分点
- 开源内容：训练代码、预处理流水线、模型权重（含 1.2 亿与 6.5 亿参数两个版本）均已开源，附带完整复现文档
- 局限：作者说明对线粒体相关基因过度表达的组织样本存在系统性偏差，且推理成本较高（单样本约 0.4 秒）
这项工作展示了「把生物学数据当语言来建模」的路线在单细胞测序领域的可行性。
「漫话AGI」频道最新
- 云数仓内嵌 AI 正在消解数据工程师岗位 — jonathanmendez · 2026-11-10
- 微软 AI 负责人苏莱曼转发《Humanist Review》：Acemoglu 等谈 AI 与人的选择 — mustafasuleyman · 2026-11-10
- Mustafa Suleyman 将在 SF 论战「AI 能否带来富足」,11月18日举行 — mustafasuleyman · 2026-11-10
- Scott Alexander 重提旧文:值得做的事就值得用编造的统计数据做 — NathanpmYoung · 2026-11-10
- 单任务提速明显,项目层面收益存疑:AI 效率的隐藏损耗 — FulcraDynamics · 2026-11-10
- 从惊叹到嫌弃只用几天:用户对 AI 视频审美疲劳速度惊人 — jaivin · 2026-11-10