transformers

全球最大的模型仓库全家桶，想用的模型一把抓

Hugging Face 出品的模型定义框架，支持文本、视觉、音频与多模态模型，覆盖推理与训练全流程，是当前研究和生产中最主流的开源模型生态基石。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 166529

维护状态活跃

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队huggingface

所属国家

官网地址

GitHubhttps://github.com/huggingface/transformers

定价模式free

价格说明开源库，Apache-2.0 许可，完全免费，可本地部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型audio,deep-learning,deepseek,gemma,glm,hacktoberfest,llm,machine-learning,model-hub,natural-language-processing,nlp,pretrained-models,python,pytorch,pytorch-transformers,qwen,speech-recognition,transformer,vlm

GitHub 星标★ 166529

30天Star增速

HF 下载量

上线时间2018-10-29 00:00:00

最近更新2026-09-22 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数14

使用教程

难度：入门约 10 分钟部署方式：库/依赖 6 步

环境要求

Python 3.10 及以上
PyTorch 2.5 及以上
建议使用 venv 或 uv 创建独立虚拟环境
首次运行需联网下载模型权重并本地缓存

安装与启动步骤

1创建虚拟环境

在项目目录下用 Python 自带的 venv 创建隔离环境，避免与系统包冲突。
```
python -m venv .venv
```
2激活虚拟环境

Linux/macOS 用 source 激活；Windows PowerShell 执行 ..venvScriptsActivate.ps1。
```
source .venv/bin/activate
```
3安装 PyTorch

README 要求 PyTorch 2.5+，请按 PyTorch 官网的本地安装指引选择对应 CUDA/CPU 版本。
```
pip install torch
```
4安装 Transformers

安装本项目的 Python 包；README 节选中安装代码块被截断，请以官方 Installation 文档为准。
```
pip install transformers
```
5运行文本生成示例

将 README Quickstart 中的 pipeline 示例保存为 quickstart.py 后运行，首次会自动下载并缓存模型。
```
python quickstart.py
```
6命令行对话

需先在本机运行 transformers serve，再执行该命令与指定模型进行命令行聊天。
```
transformers chat Qwen/Qwen2.5-0.5B-Instruct
```

关键配置

配置项	必填	说明	示例
`task`	是	指定要执行的推理任务类型	`text-generation`
`model`	是	指定使用的模型名称或本地路径	`Qwen/Qwen2.5-1.5B`
`dtype`	否	指定模型权重数据类型，常用于显存优化	`torch.bfloat16`
`device_map`	否	自动分配模型到可用设备，大模型常用	`auto`
`max_new_tokens`	否	生成任务中最多新增的 token 数	`512`

如何确认成功

运行 pipeline 示例后能正常打印生成文本、识别文本或分类结果，即表示安装与模型加载成功。

常见问题

Q：第一次运行特别慢甚至卡住怎么办？

A：首次运行需要从 Hugging Face Hub 下载模型权重，下载完成后会缓存到本地，后续调用可直接复用，因此只需耐心等待一次。

Q：如何与模型进行多轮对话？

A：与普通推理用法相同，只需构造包含 role 和 content 的对话历史列表作为 Pipeline 输入，再把列表传给 pipeline 即可。

Q：支持哪些类型的任务？

A：Pipeline 同时支持文本、音频、视觉与多模态任务，例如文本生成、自动语音识别、图像分类和视觉问答。

Q：只有一个 GPU 或显存不足怎么办？

A：可设置 device_map="auto" 让框架自动分配设备，也可配合 dtype=torch.bfloat16 降低权重的显存占用。

注意事项

README 节选中 Installation 的代码块被截断，安装命令仅供参考，请以官方 Installation 文档为准。
运行环境必须满足 Python 3.10+ 与 PyTorch 2.5+，否则可能出现兼容问题。
命令行聊天功能依赖本机已启动 transformers serve 服务。

核心亮点

统一的高层API，支持文本、视觉、音频和多模态模型，训练与推理切换便捷，降低了模型使用门槛
与Hugging Face Hub深度集成，可快速加载数万预训练模型，涵盖BERT、GPT、Qwen、Gemma、DeepSeek等主流架构
支持PyTorch、TensorFlow和JAX多框架互操作，同时提供Pipeline、Trainer和AutoClass等工具，适合从研究到生产的全流程
社区活跃，持续跟进SOTA模型和任务，Hacktoberfest等开源贡献机制完善，问题反馈与教程资源丰富

不足之处

抽象层较厚，自定义模型或精细控制时需深入源码，调试复杂度高
默认推理路径内存和时延开销偏大，性能敏感场景需额外优化（如ONNX、TensorRT、torch.compile）
依赖库众多且版本更新频繁，环境兼容性问题时有发生，部分历史版本存在已知bug，需谨慎锁定版本

适用场景

快速实现文本分类、命名实体识别、问答、翻译等NLP任务，并用统一API替换不同模型的推理逻辑
多模态场景（图像+文本、音频+文本）的联合建模与零样本分类，如CLIP、Whisper、BLIP等模型应用
大模型（LLM）的指令微调、PPO/DPO对齐以及量化部署，兼顾研究实验和中小规模生产环境

替代项目

sentence-transformers、spaCy、fastai

项目介绍

transformers 是开发框架领域的开源项目，由 huggingface 开发，2018 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（166,529）位列前 1%，在开发框架分类的 795 个项目里位列前 1%。

近 44 天，它的 GitHub 星标从 163,500 增加到 166,529，净增 3,029。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-22。开源库，Apache-2.0 许可，完全免费，可本地部署使用。

它主要面向的使用场景是：快速实现文本分类、命名实体识别、问答、翻译等NLP任务，并用统一API替换不同模型的推理逻辑。同类可对比的替代方案包括 sentence-transformers、spaCy、fastai。

上一篇：mirrord

下一篇：langchain