xTuring

拖拽式微调开源大模型，几分钟打造你的专属 LLM

xTuring 是一个面向个人和团队的开源大语言模型（LLM）个性化工具，旨在简化从数据预处理到模型微调的全流程。它解决了普通开发者难以快速上手 LLM 微调的问题，提供了直观的 API 和命令行界面，支持多种主流开源模型（如 Llama、GPT-J 等）的定制化训练。核心能力包括数据清洗与格式化、低资源微调（如 LoRA）、模型评估与导出，以及一键式训练脚本。用户无需深入底层框架（如 PyTorch、Transformers），即可完成模型个性化，从而构建自己的专属 LLM。项目社区活跃，提供 Discord 支持，适合快速原型验证和中小规模生产部署。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 2675

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队stochasticai

所属国家

官网地址https://xturing.stochastic.ai

GitHubhttps://github.com/stochasticai/xTuring

定价模式free

价格说明开源项目，Apache-2.0许可证，可免费使用和部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型adapter,deep-learning,fine-tuning,finetuning,gen-ai,generative-ai,gpt-2,gpt-j,language-model,llama,llm,lora,mistral,mixed-precision,peft,quantization

GitHub 星标★ 2675

30天Star增速

HF 下载量

上线时间2023-03-19 00:00:00

最近更新2026-09-23 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

难度：入门约 10 分钟部署方式：库/依赖 7 步

环境要求

Python 环境（具体版本 README 未注明）
pip 可用的包管理环境
pip 安装时需满足 transformers>=4.36.0，且不要升级到 5.x
从源码开发需 git 与 pre-commit

安装与启动步骤

1安装 xTuring

直接通过 PyPI 安装官方包，这是 README 给出的标准安装方式。
```
pip install xturing
```
2检查依赖版本

必须满足 transformers>=4.36.0；不要升级到 5.x，5.x 移除了 INT8/INT4 引擎依赖的 load_in_8bit/load_in_4bit 参数。
3克隆源码仓库

仅开发或从源码运行时需要，普通使用可跳过此步。
```
git clone https://github.com/stochasticai/xturing.git
```
4源码开发安装

在仓库目录内以可编辑模式安装，并装上开发依赖，便于贡献代码。
```
cd xturing
pip install -e .
pip install -r requirements-dev.txt
```
5安装提交钩子

贡献代码前必须执行，两次 install 分别装常规钩子与 commit-msg 钩子。
```
pre-commit install
pre-commit install --hook-type commit-msg
```
6运行测试验证

测试文件位于 tests/ 目录，用 pytest 运行全部测试确认环境正常。
```
pytest
```
7编写微调脚本

用 InstructionDataset 装载数据、BaseModel 建模，再调用 finetune 训练、evaluate 评估；README 示例不完整，需自行补全模型初始化。

关键配置

配置项	必填	说明	示例
`transformers`	是	核心依赖版本，需 >=4.36.0 且不要升到 5.x	`4.36.0`

如何确认成功

执行 pytest 能正常运行测试；导入 xturing 且无报错即表示安装成功。

常见问题

Q：安装后提示 transformers 相关错误怎么办？

A：确认 transformers>=4.36.0，且未升级到 5.x。5.x 移除了 load_in_8bit/load_in_4bit 加载参数，INT8/INT4 引擎无法工作。

Q：可以用 Qwen3-Omni 吗？

A：暂不支持，相关支持尚未发布，它需要 transformers>=5.0.0，可关注 PR #318。

Q：只想跑部分测试怎么做？

A：跑单个文件用 pytest tests/xturing/models/test_qwen_model.py；跳过慢测试用 pytest -m "not slow"；跳过 GPU 测试用 pytest -m "not gpu"。

Q：没有 GPU 能跑吗？

A：可以。xTuring 支持从 CPU/笔记本到多 GPU 扩展，并提供 LoRA 与 INT8/INT4 低精度以降低成本，CPU 推理借助 Intel Extension for Transformers。

注意事项

README 中 Quickstart 的 Python 代码片段不完整，未给出模型初始化步骤，实际使用请以官方文档 https://xturing.stochastic.ai 为准。
xTuring 默认私有：可在本地或自有 VPC/私有云中运行，数据不外传。
项目支持 GPT-OSS、LLaMA/LLaMA 2、GPT-J、GPT-2、DistilGPT-2、Mamba 等开源模型的微调。
遇到问题可加入官方 Discord 社区获取支持。

核心亮点

开箱即用：提供统一 API 和 CLI，几行代码即可启动微调，降低入门门槛
多模型支持：兼容 Llama、GPT-J 等主流开源模型，灵活切换
低资源优化：内置 LoRA 等高效微调方法，消费级 GPU 也能跑

不足之处

文档/社区待观察
项目仍处于早期，生态和周边工具不如成熟框架丰富

适用场景

个人开发者快速定制聊天机器人或垂直领域助手
中小企业基于开源模型构建私有化 LLM 服务
学术研究中对模型进行领域适配和实验对比

替代项目

Hugging Face PEFT、LlamaIndex、Unsloth

项目介绍

xTuring 是模型训练领域的开源项目，由 stochasticai 开发，2023 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（2,675）位列前 30%，在模型训练分类中处于中上游。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-23。Apache-2.0许可证，可免费使用和部署。

它主要面向的使用场景是：个人开发者快速定制聊天机器人或垂直领域助手。同类可对比的替代方案包括 Hugging Face PEFT、LlamaIndex、Unsloth。

上一篇：LongLoRA

下一篇：maxtext