项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 135
核心亮点
- 用 offloading 把参数和中间激活卸载到内存/磁盘，显著降低单卡显存门槛
- 同时支持 pipeline parallelism 和 tensor parallelism，可跨多机扩展
- 基于 PyTorch 实现，兼容 Llama 等主流模型，便于二次开发
不足之处
- 项目处于早期，功能和稳定性可能不完善
- 去中心化多机通信与调度会带来额外延迟，实际吞吐待验证
适用场景
- 个人开发者用多台低显存设备微调 Llama 类模型
- 小团队在无高端 GPU 集群时做分布式推理验证
- 研究去中心化训练与显存 offloading 方案的教学实验
替代项目
DeepSpeed、Petals、vLLM
上一篇：AViD
同类项目推荐
LLM-FineTuning-Large-Language-Mo···
开源
跟着 Notebook 一步步学会大模型微调
LLM (Large Language Model) FineTuning
MoTCoder
开源
把复杂编程题拆成小模块，让大模型推理更准
This is the official code repository of MoTCoder: Elevating Large Language Models wi···
tirex
开源
零样本预测长短周期，无需训练直接上手
TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context···
VERONA
开源
一键搭建鲁棒性实验，快速算清模型抗干扰能力
A lightweight Python package for setting up robustness experiments and to compute ro···
SparseLLM
开源
全局剪枝大模型，高稀疏度下保住性能
Official Repo for SparseLLM: Global Pruning of LLMs (NeurIPS 2024)
TimeSeriesScientist
开源
一键搞定时间序列预测，省去繁琐调参
Official Repository for TimeSeriesScientist
ObsScaling
开源
看公开数据就能预测模型性能，省下巨额训练费
[NeurIPS'24 Spotlight] Observational Scaling Laws
mlx-tune
开源
在 Mac 上本地微调大模型，多模态全支持，速度飞快
Fine-tune LLMs on your Mac with Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Emb···
hyperdreambooth
开源
秒级生成专属人像，无需漫长训练
Implementation of HyperDreamBooth: HyperNetworks for Fast Personalization of Text-to···