nucleotide-transformer

用大模型读懂DNA序列,一键提取基因组特征

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 102 🐛 待处理 17 👀 关注 20
GitHub ↗
GitHub 星标 ★ 940
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源模型,本地部署,完全免费

项目预览

nucleotide-transformer 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队instadeepai
定价模式🏷️完全免费
价格说明开源模型,本地部署,完全免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Jupyter Notebook
技术栈/模型biology,deep-learning,dna,foundation-models,genomics,transcriptomics,transformer
GitHub 星标★ 940
上线时间2023-01-24 00:00:00
代码更新2026-11-02
仓库体积13.1 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数5

项目介绍

Nucleotide Transformer 是一个面向基因组学和转录组学的开源基础模型项目,旨在利用大规模预训练 Transformer 架构来学习 DNA 序列的通用表示。它解决了传统生物信息学方法依赖人工设计特征、难以捕捉长程依赖关系的问题,能够直接从未标注的基因组序列中自监督学习,从而为下游任务(如基因表达预测、剪接位点识别、调控元件注释等)提供强大的序列嵌入。核心能力包括:提供多个不同参数规模(如 500M、2.5B)的预训练模型,支持自定义微调,并附带完整的训练和推理代码。该项目基于 Jupyter Notebook 和 PyTorch 实现,适合研究人员快速上手,推动 AI 在精准医学和基因组研究中的应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 940

使用教程

难度:高级 约 35 分钟 部署方式:本地 GPU 4 步

环境要求

  • Python 3.9+
  • PyTorch + CUDA(GPU 推理)
  • transformers

安装与启动步骤

  1. 1安装

    带 gpu 额外依赖一次装齐。

    pip install 'nucleotide-transformer[gpu]'
  2. 2或从源码装

    要改模型实现时克隆后本地安装。

    git clone https://github.com/instadeepai/nucleotide-transformer.git && cd nucleotide-transformer
    python -m venv .venv && source .venv/bin/activate
    pip install .
  3. 3加载模型

    用 transformers 的 AutoModelForMaskedLM 直接按名称加载。

    from transformers import AutoTokenizer, AutoModelForMaskedLM
    tok = AutoTokenizer.from_pretrained('InstaDeepAI/nucleotide-transformer-500m-human-ref')
    model = AutoModelForMaskedLM.from_pretrained('InstaDeepAI/nucleotide-transformer-500m-human-ref')
  4. 4取嵌入做下游任务

    把序列切成 6-mer token 后取隐层表示,接分类或回归头。

如何确认成功

对示例 DNA 序列能产出隐藏状态张量,形状与文档一致。

注意事项

  • 输入必须是 ACGT 核酸序列,含 N 或其它字符会被 tokenizer 处理成未知标记。

核心亮点

  • 提供从500M到2.5B的多尺寸预训练模型,覆盖不同算力需求
  • 自监督预训练,无需标注数据即可学习DNA通用表征
  • 附带微调示例,可轻松适配基因表达、剪接位点等下游任务

不足之处

  • 文档偏学术,缺少面向初学者的快速上手指南
  • 模型体积大,推理和微调对硬件要求较高

适用场景

  • 基因组序列的特征提取与嵌入表示
  • 基因表达调控元件的预测与注释
  • 疾病相关突变影响的初步筛查

替代项目

DNABERT、Enformer、HyenaDNA

上一篇:ONE-PEACE

下一篇:hyena-dna

同类项目推荐

QuantHarness 开源

一套工具,搞定量化模型标准化评测与对比

Official Repository for QuantHarness

★ 2894 2026-08-09
pytorch-stable-diffusion 开源

手写 Stable Diffusion 源码,从论文到图像生成一步到位

Stable Diffusion implemented from scratch in PyTorch

★ 1086 2026-08-09
titania 开源

一人读懂从大模型到晶体管的完整链路

Project Titania is a complete large language model system, from transformer to trans···

★ 129 2026-09-25
Differential-Transformer-PyTorch 开源

用差分注意力降低噪声,让模型更聚焦关键信息

PyTorch implementation of the Differential-Transformer architecture for sequence mod···

★ 86 2026-08-09
awesome-open-llms 开源

每月一份清单,快速看清当下热门开源大模型

开源模型汇总,每月更新现在主流的开源模型。A monthly tracker for the latest and most ···

★ 146 2026-11-07
Wuerstchen 开源

用更少算力训练出高质量文生图模型

Official implementation of Würstchen: Efficient Pretraining of Text-to-Image Models

★ 552 2026-08-09
GraphCLIP 开源

让图模型像CLIP一样能迁移,文本图任务零样本也能用

Official implementation of GraphCLIP: Enhancing Transferability in Graph Foundation ···

★ 81 2026-08-09
awesome-opensource-ai 开源

每日更新,帮你精选最值得关注的真正开源AI项目。

Curated list of the best truly open-source AI projects, models, tools, and infrastru···

★ 5018 2026-08-09