项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7
核心亮点
- 同时支持 NVIDIA GPU 和华为昇腾 NPU，覆盖国产化部署需求
- 集成量化、剪枝、蒸馏多种压缩算法，可灵活组合使用
- 与 HuggingFace Transformers 生态兼容，上手成本低
不足之处
- 项目较新，文档和社区生态仍在建设中
- 压缩后模型精度损失的控制策略需用户自行调参，自动化程度有限
适用场景
- 在昇腾 NPU 上部署大模型，需降低显存占用
- 将大模型压缩至可接受体积，用于边缘设备或私有化部署
- 多模态模型推理加速，提升响应速度
替代项目
llm-compressor、AutoGPTQ、TensorRT-LLM
同类项目推荐
GeoPT
开源
用几何预训练，让物理仿真又快又准
Official Code for "GeoPT: Scaling Physics Simulation via Lifted Geometric Pre-Traini···
LLMEmb
开源
让大模型嵌入更精准，提升检索与语义匹配效果
[AAAI'25 Oral] The official implementation code of LLMEmb
WaDi
开源
一步生成高质量图像，蒸馏时精准把控权重方向
[CVPR 2026] Official PyTorch implementation of WaDi: Weight Direction-aware Distilla···
simple-llm-finetuner
开源
拖拽式界面，小白也能微调大模型
Simple UI for LLM Model Finetuning
OneTrainer
开源
图形化界面搞定扩散模型训练，从 LoRA 到全量微调一站式完成。
OneTrainer is a one-stop solution for all your Diffusion training needs.
LoongForge
开源
一套框架，NVIDIA 和昆仑芯通吃，搞定大模型全流程训练
A high-performance framework for training LLMs, VLMs, diffusion, and embodied models···
SkyRL
开源
把 LLM 强化学习全流程拆成乐高，多轮工具任务也能直接训
SkyRL: A Modular Full-stack RL Library for LLMs
VeriThinker
开源
让模型学会自我验证，推理更快更准
[NeurIPS 2025] VeriThinker: Learning to Verify Makes Reasoning Model Efficient
multimodal
开源
用 PyTorch 快速搭多模态模型训练管线
TorchMultimodal is a PyTorch library for training state-of-the-art multimodal multi-···