
paxml
用JAX训练超大模型,榨干GPU算力,配置灵活不掉队。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 560
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 加速器环境
- Python 环境
安装与启动步骤
-
1装框架
在加速器上跑机器学习实验的配置式框架。
pip install paxml -
2或从源码装
要改代码就用可编辑模式。
git clone https://github.com/google/paxml -
3装配套库
它是框架的底层组件,要一起装。
pip install -e praxis -
4跑一个示例实验
用官方配置先验证链路。
-
5换自己的模型配置
按配置式的方式描述模型与训练。
如何确认成功
能跑通一个官方示例实验并拿到训练日志,换配置后能改变模型结构
注意事项
- 它是配置式训练框架,上手门槛高。
- 对硬件有特定要求,普通显卡跑不了全部功能。
- 配套库版本必须与主框架匹配。
- 文档偏内部风格,示例是最好的入口。
核心亮点
- 基于JAX,自动并行化,无需手动编写分布式逻辑
- 模块化设计,模型组件可自由组合,实验配置灵活
- 官方宣称MFU业界领先,训练效率高
不足之处
- 文档较少,上手门槛高,需熟悉JAX
- 社区规模小,示例和教程有限
- 依赖JAX生态,与PyTorch生态不互通
适用场景
- 大规模语言模型预训练
- 多模态模型训练
- 研究型团队探索新架构
替代项目
PyTorch + FSDP、DeepSpeed、Megatron-LM
同类项目推荐
OntoTune
开源
用本体知识给大模型开小灶,让专业回答更靠谱
[Paper][WWW2025] OntoTune: Ontology-Driven Self-training for Aligning Large Language···
jax-llm-examples
开源
纯JAX极简代码,跑通LLM训练与推理
Minimal yet performant LLM examples in pure JAX
Visual-ERM
开源
训练视觉奖励模型,让AI输出更符合人类视觉偏好
[NeurIPS 2026] Official Implementation of "Visual-ERM: Reward Modeling for Visual Eq···
Olive
开源
一条配置流水线,把模型量化优化到各种硬件上跑
Olive: Simplify ML Model Finetuning, Conversion, Quantization, and Optimization for ···
denoising_diffusion
开源
用PyTorch Lightning复现DDPM,快速跑通扩散模型训练与生成
Unofficial Implementation of "Denoising Diffusion Probabilistic Models" in PyTorch(L···
deita
开源
用更少的高质量数据,训出更强的对齐模型
Deita: Data-Efficient Instruction Tuning for Alignment [ICLR2024]
LLMNodeBed
开源
统一基准,对比LLM节点分类算法,复现ICML论文结果。
[ICML 2025] Official implementation for paper "A Comprehensive Analysis on LLM-based···
DeepGNN
开源
让十亿级图数据的 GNN 训练跑得动、跑得快
DeepGNN is a framework for training machine learning models on large scale graph dat···
Jackrong-llm-finetuning-guide
开源
跟着 Notebook 一步步微调大模型,少走弯路