项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 795
技术标签
使用教程
环境要求
- Python 3.9+
- 无 GPU 也能算（估算用）
安装与启动步骤
-
1装 CLI
回答一个很实际的问题：这张卡能不能微调这个模型。
python -m pip install canifinetune==0.4.1 -
2跑一次估算
指定模型与显卡，输出显存测算。
canifinetune --model Qwen/Qwen2.5-7B --gpu 4090 --method lora -
3看建议
它会给出可用的微调方式与 batch 建议。
canifinetune --model meta-llama/Llama-3-8B --gpu 3090 --method qlora -
4开发模式
要改逻辑就源码安装。
python -m pip install -e ".[dev]"
如何确认成功
输出里有显存占用估算与可行性结论。
注意事项
- 估算基于经验公式，实际还要留出激活与优化器状态的空间。
- 结论是「临界可行」时，务必降 batch 并开梯度检查点。
- 模型参数量填错会得出完全相反的结论。
核心亮点
- 支持多种量化级别和 LoRA/QLoRA 配置，估算结果贴近实际微调场景
- 自动从 Hugging Face 拉取模型元数据，无需手动输入参数
- 命令行工具简单易用，一条命令即可得到显存估算和可行性结论
不足之处
- 估算基于模型参数和常见配置，实际内存占用可能因批次大小、序列长度等超参数而波动
- 文档/社区待观察
适用场景
- 本地开发者微调 LLM 前，快速验证 GPU 是否够用
- 在购买新显卡前，对比不同型号的显存需求
- 教学或实验场景中，为学生选择可运行的模型提供参考
替代项目
Hugging Face Model Memory Calculator、llm-memory-calculator、Transformers Memory Utilities
同类项目推荐
nano-world-model
开源
用扩散强制训练世界模型，让机器人看懂视频并规划动作。
A Minimalist, Batteries-included Repository for Advancing World Model Science.
SPPO
开源
让模型自我对弈，无需人工标注即可提升对齐效果
The official implementation of Self-Play Preference Optimization (SPPO)
verbalized-sampling
开源
让LLM输出带概率的多样答案，告别重复文本
Verbalized Sampling, a training-free prompting strategy to mitigate mode collapse in···
ObsScaling
开源
看公开数据就能预测模型性能，省下巨额训练费
[NeurIPS'24 Spotlight] Observational Scaling Laws
verl-vla
开源
采集+微调+RL 一条龙，让机器人 VLA 策略快速迭代
A unified VLA post-training framework for human-in-the-loop data collection, fine-tu···
modalities
开源
PyTorch 原生分布式训练，配置化复现大模型实验
Modalities, a PyTorch-native framework for distributed and reproducible foundation m···
mlflow_for_ml_dev
开源
跟着示例跑通 MLflow，搞定实验跟踪与模型管理
Repository with code examples of mlflow
SuperPiano
开源
在 Colab 里用 Transformer 一键生成钢琴曲
Absolutely amazing SOTA Google Colab (Jupyter) Notebooks for creating/training SOTA ···
gemma-tuner-multimodal
开源
Mac 上直接微调 Gemma 多模态模型，图文音一起训
Fine-tune Gemma 4 and 3n with audio, images and text on Apple Silicon, using PyTorch···