foundation-model-stack
按需拼装的 PyTorch 基础模型训练与推理组件库
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-31 · 当前星标 ★ 234
核心亮点
- 基于 PyTorch 原生实现，组件可按需引入，不强制绑定完整框架，便于嵌入现有训练脚本
- 覆盖训练、微调、推理多个环节，提供参数高效微调、分布式训练等通用能力，减少重复造轮子
- 由 IBM 团队维护，代码结构与工程规范相对完整，适合作为企业内部训练流水线的参考实现
不足之处
- 项目处于早期阶段，星标与社区规模较小，第三方教程和问题解答资源有限
- 组件化设计意味着缺少开箱即用的端到端流程，新手需要自行组合，学习成本偏高
- API 与模块边界可能随版本调整，长期稳定性有待观察
适用场景
- 在自有 PyTorch 训练代码中引入参数高效微调组件，快速适配下游任务
- 为大模型训练搭建分布式并行策略，复用已有训练循环而非重写框架
- 构建推理服务时复用其推理加速与模型加载组件，缩短工程实现周期
替代项目
Megatron-LM、DeepSpeed、PEFT
同类项目推荐
Open-LLaVA-NeXT
开源
开源复现 LLaVA-NeXT，快速训练你的多模态对话模型
An open-source implementation for training LLaVA-NeXT.
J-Wash
开源
可视化模型内部机制，手动微调对齐行为并导出结果
Jacobian-Brainwash : A manual alignment tool for large language models built on Anth···
MoE-plus-plus
开源
零计算专家，让MoE模型更快更省，性能不减
[ICLR 2025] MoE++: Accelerating Mixture-of-Experts Methods with Zero-Computation Exp···
GEM
开源
微调时保住模型创造力，让生成不再千篇一律
Code for Paper (Preserving Diversity in Supervised Fine-tuning of Large Language Mod···
easevoice-trainer
开源
简单几步，训练你的专属语音克隆模型
EaseVoice Trainer is a simple and user-friendly voice cloning and speech model train···
sagemaker-training-toolkit
开源
把训练脚本塞进容器，SageMaker 自动跑训练并上传模型
Train machine learning models within a Docker container using Amazon SageMaker.
SlideFormer
开源
单卡也能微调大模型，显存不够靠硬盘和内存顶上
An Efficient Heterogeneous Co-Design for Fine-Tuning on a Single GPU (DAC ‘26)
Liger-Kernel
开源
不改模型结构，给 LLM 训练省显存提吞吐
Efficient Triton Kernels for LLM Training
EasyEdit
开源
像改数据库一样，直接修改大模型的知识，无需重训练。
[ACL 2024] An Easy-to-use Knowledge Editing Framework for LLMs.