LLM-Finetuning-Toolkit

像写单元测试一样微调大模型，实验更稳更可控。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 107 🐛 待处理 16 👀 关注 16

GitHub ↗

GitHub 星标 ★ 871

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

项目预览

LLM-Finetuning-Toolkit 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队georgian-io

GitHubhttps://github.com/georgian-io/LLM-Finetuning-Toolkit

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ablation-study,classification,falcon,fine-tuning,finetuning,flan-t5,large-language-models,llama2,llm-test,lora,mistral-7b,nlp,nlp-machine-learning,qlora,redpajama,summarization,unit-testing,zephyr

GitHub 星标★ 871

上线时间2023-07-24 00:00:00

代码更新2026-10-22

仓库体积33.5 MB

本站数据更新2026-11-10

维护状态较活跃

收录时间2026-08-09

浏览次数6

项目介绍

LLM-Finetuning-Toolkit 是一个面向开源大语言模型的微调、消融和单元测试工具包。它主要解决研究人员和开发者在对 LLM 进行定制化训练时缺乏统一、可测试流程的问题。该工具包提供了一套模块化的 Python 接口，支持对模型进行参数高效微调（如 LoRA）、全量微调，并内置了消融实验框架，方便用户对比不同组件或数据配置对模型性能的影响。此外，它还强调单元测试，确保模型在修改后仍能保持预期行为，降低回归风险。核心能力包括：灵活的配置系统、与 Hugging Face Transformers 生态的集成、实验追踪以及结果可视化。整体设计旨在让用户能够以工程化的方式管理 LLM 的迭代优化，提升实验的可靠性和可复现性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 871

技术标签

classification fine-tuning finetuning large-language-models llama2

使用教程

难度：进阶约 20 分钟部署方式：命令行安装 4 步

环境要求

Python 3.9+
GPU（可选，CPU 也能跑小模型）

安装与启动步骤

1安装

推荐 pipx，避免把训练依赖装进主环境。
```
pipx install llm-toolkit
llmtune --help
```
2写配置

一个 yaml 管数据、模型、超参与实验组合。
```
cp config.yml.example config.yml
vim config.yml
```
3起实验

run 会按网格批量拉起实验并记录结果。
```
llmtune run ./config.yml
```
4看结果

输出目录里有指标与权重，按实验名对比。
```
ls output/
cat output/*/metrics.json
```