paxml

用JAX训练超大模型,榨干GPU算力,配置灵活不掉队。

Pax是一个基于JAX的机器学习框架,专为训练大规模模型而设计。它解决了在大规模分布式训练中,模型并行、数据并行和流水线并行配置复杂、难以灵活组合的问题。Pax的核心能力在于提供高度可配置的实验环境和自动化的并行化策略,允许研究者通过模块化组件自由搭建模型架构,并利用JAX的即时编译和自动微分能力实现高效训练。Pax在多个基准上展示了业界领先的模型算力利用率(MFU),意味着它能在相同硬件资源下训练更大或更快的模型。它由Google开发,与JAX生态深度集成,适合需要极致性能和大规模扩展的深度学习研究团队。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 561
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队google
所属国家
官网地址
定价模式free
价格说明开源框架,Apache-2.0 许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型c4,gpt,jax,large-language-models,llm,model-flops,parallelism
GitHub 星标★ 561
30天Star增速
HF 下载量
上线时间2022-06-14 00:00:00
最近更新2026-09-18 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 基于JAX,自动并行化,无需手动编写分布式逻辑
  • 模块化设计,模型组件可自由组合,实验配置灵活
  • 官方宣称MFU业界领先,训练效率高

不足之处

  • 文档较少,上手门槛高,需熟悉JAX
  • 社区规模小,示例和教程有限
  • 依赖JAX生态,与PyTorch生态不互通

适用场景

  • 大规模语言模型预训练
  • 多模态模型训练
  • 研究型团队探索新架构

替代项目

PyTorch + FSDP、DeepSpeed、Megatron-LM

项目介绍

paxml 是模型训练领域的开源项目,由 google 开发,2022 年首次发布。

它收录于模型训练分类,该分类目前共有 518 个项目,GitHub 星标数为 561。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-18。Apache-2.0 许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:大规模语言模型预训练。同类可对比的替代方案包括 PyTorch + FSDP、DeepSpeed、Megatron-LM。

上一篇:Rearchitecting-LLMs

下一篇:neural-compressor

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13