发生了什么
Hugging Face Bio 发布 Carbon DNA 模型(275x)
为什么值得关注
如果关注生物序列建模效率，这篇值得点开原文看其 6-base tokenizer 与单碱基分辨率如何同时实现，以及与 Evo2 的速度对比是否可复现。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Carbon DNA 模型
Hugging Face Bio 的 pre-training 和 post-training 团队发布了 Carbon，一个用于 DNA 建模的模型，并配套了 interactive blogpost/demo。该模型声称比下一个最佳模型快 275 倍，且可以在单张 GPU 上在少于 2 天内处理完整人类基因组。团队称其关键做法是使用了专门的 tokenizer：以 6 个碱基为一组切分序列，但在训练和推理中仍可保持单碱基分辨率；他们还表示该架构与 tokenizer 组合后，相比同尺寸的前一代 SOTA Evo2 提升了 275 倍速度。
打开原始来源 ↗02
Carbon DNA 模型发布
Leandro von Werra 转发称团队发布了 DNA 模型 Carbon，主打速度极快，宣称比下一个最佳模型快 275 倍，并且在单张 GPU 上可在不到 2 天内处理完整人类基因组。团队表示，性能提升主要来自为 DNA 序列设计的独特 tokenizer：将序列按 6 个碱基分块，但在训练和推理时仍可保持单碱基分辨率；模型架构与 tokenizer 结合后，在相同规模下比此前 SOTA Evo2 快 275 倍。团队还上线了一个交互式 demo，可用于生成 DNA 序列、分析基因结构、预测突变影响、生成并折叠蛋白质，以及重建生命树片段。
打开原始来源 ↗