paxml

用JAX训练超大模型,榨干GPU算力,配置灵活不掉队。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 73 🐛 待处理 30 👀 关注 12
GitHub ↗
GitHub 星标 ★ 560
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源框架,Apache-2.0 许可证,完全免费,可自行部署使用。

项目预览

paxml 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队google
定价模式🏷️完全免费
价格说明开源框架,Apache-2.0 许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型c4,gpt,jax,large-language-models,llm,model-flops,parallelism
GitHub 星标★ 560
上线时间2022-06-14 00:00:00
代码更新2026-10-26
仓库体积4.6 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数8

项目介绍

Pax是一个基于JAX的机器学习框架,专为训练大规模模型而设计。它解决了在大规模分布式训练中,模型并行、数据并行和流水线并行配置复杂、难以灵活组合的问题。Pax的核心能力在于提供高度可配置的实验环境和自动化的并行化策略,允许研究者通过模块化组件自由搭建模型架构,并利用JAX的即时编译和自动微分能力实现高效训练。Pax在多个基准上展示了业界领先的模型算力利用率(MFU),意味着它能在相同硬件资源下训练更大或更快的模型。它由Google开发,与JAX生态深度集成,适合需要极致性能和大规模扩展的深度学习研究团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 560

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:高级 约 85 分钟 部署方式:本地GPU 5 步

环境要求

  • 加速器环境
  • Python 环境

安装与启动步骤

  1. 1装框架

    在加速器上跑机器学习实验的配置式框架。

    pip install paxml
  2. 2或从源码装

    要改代码就用可编辑模式。

    git clone https://github.com/google/paxml
  3. 3装配套库

    它是框架的底层组件,要一起装。

    pip install -e praxis
  4. 4跑一个示例实验

    用官方配置先验证链路。

  5. 5换自己的模型配置

    按配置式的方式描述模型与训练。

如何确认成功

能跑通一个官方示例实验并拿到训练日志,换配置后能改变模型结构

注意事项

  • 它是配置式训练框架,上手门槛高。
  • 对硬件有特定要求,普通显卡跑不了全部功能。
  • 配套库版本必须与主框架匹配。
  • 文档偏内部风格,示例是最好的入口。

核心亮点

  • 基于JAX,自动并行化,无需手动编写分布式逻辑
  • 模块化设计,模型组件可自由组合,实验配置灵活
  • 官方宣称MFU业界领先,训练效率高

不足之处

  • 文档较少,上手门槛高,需熟悉JAX
  • 社区规模小,示例和教程有限
  • 依赖JAX生态,与PyTorch生态不互通

适用场景

  • 大规模语言模型预训练
  • 多模态模型训练
  • 研究型团队探索新架构

替代项目

PyTorch + FSDP、DeepSpeed、Megatron-LM

上一篇:Rearchitecting-LLMs

下一篇:neural-compressor

同类项目推荐

OntoTune 开源

用本体知识给大模型开小灶,让专业回答更靠谱

[Paper][WWW2025] OntoTune: Ontology-Driven Self-training for Aligning Large Language···

★ 51 2026-08-09
jax-llm-examples 开源

纯JAX极简代码,跑通LLM训练与推理

Minimal yet performant LLM examples in pure JAX

★ 286 2026-09-16
Visual-ERM 开源

训练视觉奖励模型,让AI输出更符合人类视觉偏好

[NeurIPS 2026] Official Implementation of "Visual-ERM: Reward Modeling for Visual Eq···

★ 68 2026-08-09
Olive 开源

一条配置流水线,把模型量化优化到各种硬件上跑

Olive: Simplify ML Model Finetuning, Conversion, Quantization, and Optimization for ···

★ 2409 2026-10-17
denoising_diffusion 开源

用PyTorch Lightning复现DDPM,快速跑通扩散模型训练与生成

Unofficial Implementation of "Denoising Diffusion Probabilistic Models" in PyTorch(L···

★ 91 2026-08-09
deita 开源

用更少的高质量数据,训出更强的对齐模型

Deita: Data-Efficient Instruction Tuning for Alignment [ICLR2024]

★ 608 2026-08-09
LLMNodeBed 开源

统一基准,对比LLM节点分类算法,复现ICML论文结果。

[ICML 2025] Official implementation for paper "A Comprehensive Analysis on LLM-based···

★ 76 2026-08-09
DeepGNN 开源

让十亿级图数据的 GNN 训练跑得动、跑得快

DeepGNN is a framework for training machine learning models on large scale graph dat···

★ 145 2026-10-17