jax-llm-examples
纯JAX极简代码，跑通LLM训练与推理
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 286
技术标签
核心亮点
- 纯 JAX 实现，无 PyTorch/TensorFlow 依赖，代码量小可通读
- 覆盖训练与推理全流程，含数据加载、模型、优化器和生成示例
- 展示 jit/vmap/pmap 等 JAX 加速特性，便于学习并行与性能优化
不足之处
- 项目处于早期，星标仅 278，生态与文档完善度有限
- 示例规模偏小，缺少大规模分布式训练与生产部署的完整方案
适用场景
- 学习 JAX 并想亲手实现 LLM 训练流程的开发者
- 需要轻量模板快速验证 LLM 实验的研究者
- 教学场景中演示 LLM 底层张量运算与梯度更新
替代项目
nanoGPT、minGPT
同类项目推荐
EAGLE
开源
让大模型生成速度翻倍，无需牺牲输出质量
Official Implementation of EAGLE-1 (ICML'24), EAGLE-2 (EMNLP'24), and EAGLE-3 (NeurI···
TFMQ-DM
开源
给扩散模型瘦身，4-bit量化不降画质，部署提速。
[CVPR 2024 Highlight & TPAMI 2025] This is the official PyTorch implementation of "T···
TimeSeriesGAN
开源
用 GAN 生成逼真时间序列，搞定数据增强和异常检测
GANs for Time series analysis (Synthetic data generation, anomaly detection and inte···
LongLoRA
开源
用少量算力把大模型上下文拉到 100k+，长文本任务轻松搞定
Code and documents of LongLoRA and LongAlpaca (ICLR 2024 Oral)
CorDA
开源
用上下文感知的低秩分解，让大模型微调更省资源更精准
CorDA: Context-Oriented Decomposition Adaptation of Large Language Models for task-a···
SIM-CoT
开源
让模型在内部悄悄思考，推理更快更省token
[ICLR 2026] An official implementation of "SIM-CoT: Supervised Implicit Chain-of-Tho···
hf_ehr
开源
用 EHR 数据微调 HuggingFace 模型，快速构建医疗预测应用
Training HuggingFace models on EHR data
Agent-FLAN
开源
让大模型学会用工具，微调数据与方法一键搞定
[ACL2024 Findings] Agent-FLAN: Designing Data and Methods of Effective Agent Tuning ···
Adam-mini
开源
用更少学习率，训更快更大模型，省显存提性能。
Code for Adam-mini: Use Fewer Learning Rates To Gain More https://arxiv.org/abs/2406···