stable-pretraining

一键搭建稳定可扩展的预训练流程,专注模型研究而非工程细节。

stable-pretraining 是一个用于预训练基础模型和世界模型的 Python 库,主打可靠、极简和可扩展。它主要解决深度学习研究中预训练流程复杂、复现困难、扩展性差的问题,提供了一套标准化的训练范式。核心能力包括:支持视觉、对比学习、联合嵌入等多种算法,内置分布式训练支持,可轻松扩展到大规模计算集群。项目通过简洁的 API 设计和模块化架构,让研究者能快速搭建和迭代预训练实验,同时保证训练过程的稳定性和结果的可复现性。目前处于早期阶段,但设计理念清晰,适合作为预训练研究的实验基座。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 319
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队galilai-group
所属国家
定价模式free
价格说明开源库,MIT许可证,免费使用,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型computer-vision,computer-vision-algorithms,contrastive-learning,deep-learning,distributed,foundation-models,joint-embedding,joint-embedding-predictive-architecture,large-language-model,multimodal-learning,pytorch,self-supervised-learning,stable-pretraining,transformers
GitHub 星标★ 319
30天Star增速
HF 下载量
上线时间2024-07-23 00:00:00
最近更新2026-09-22 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 极简 API 设计,几行代码即可启动预训练任务,降低上手门槛
  • 原生支持分布式训练,可无缝扩展到多机多卡环境
  • 内置多种视觉和对比学习算法,开箱即用覆盖常见预训练场景

不足之处

  • 项目处于早期阶段,文档和社区生态尚不完善
  • 功能覆盖有限,主要聚焦视觉领域,对 NLP 等模态支持不足

适用场景

  • 研究团队快速搭建视觉基础模型预训练实验
  • 需要大规模分布式预训练但缺乏工程经验的企业
  • 作为教学工具,用于理解预训练流程和对比学习原理

替代项目

Hugging Face Transformers、PyTorch Image Models (timm)、Lightning AI

项目介绍

stable-pretraining 是模型训练领域的开源项目,由 galilai-group 开发,2024 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 319。

项目仍在小幅维护中,最近一次代码更新于 2026-09-22。开源库,MIT许可证,免费使用,无付费版本。

它主要面向的使用场景是:研究团队快速搭建视觉基础模型预训练实验。同类可对比的替代方案包括 Hugging Face Transformers、PyTorch Image Models (timm)、Lightning AI。

上一篇:AwesomeOPD

下一篇:ml-engineering

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13