unilm

一个模型搞定理解和生成，预训练即插即用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 2701 🐛 待处理 691 👀 关注 293

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 22241

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源模型，MIT许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队microsoft

官网地址https://aka.ms/GeneralAI

GitHubhttps://github.com/microsoft/unilm

定价模式🏷️完全免费

价格说明开源模型，MIT许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型beit,beit-3,bitnet,deepnet,document-ai,foundation-models,kosmos,kosmos-1,layoutlm,layoutxlm,llm,minilm,mllm,multimodal,nlp,pre-trained-model,textdiffuser,trocr,unilm,xlm-e

GitHub 星标★ 22241

上线时间2019-07-23 00:00:00

代码更新2026-09-21

仓库体积75.4 MB

本站数据更新2026-11-09

维护状态维护中

收录时间2026-08-09

浏览次数4

项目介绍

UniLM是微软开源的大规模自监督预训练模型系列，旨在统一处理自然语言理解与生成任务。它基于Transformer架构，通过掩码语言建模、序列到序列建模等预训练目标，使模型能够同时学习双向上下文编码和自回归生成能力。UniLM系列包括UniLM、UniLMv2和UniLMv3，其中v3采用更先进的预训练策略，在摘要、问答、翻译等任务上表现优异。项目解决了传统模型需针对不同任务单独微调的问题，提供统一的预训练框架，支持跨任务、跨语言和跨模态的迁移学习。核心能力包括文本生成、理解、摘要、对话系统等，并提供了与BERT兼容的接口，便于集成到现有NLP流水线中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 22241

技术标签

document-ai foundation-models llm mllm multimodal

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 10 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 环境（项目主要开发语言为 Python）
Git（用于克隆 GitHub 仓库）
可访问 GitHub 的网络
各子项目所需的深度学习依赖（README 未统一说明，需按子项目文档安装）

安装与启动步骤

1克隆 unilm 仓库

从微软官方 GitHub 仓库拉取全部子项目代码，仓库较大，建议保证网络稳定。
```
git clone https://github.com/microsoft/unilm.git
```
2进入项目目录

切换到克隆下来的 unilm 根目录，后续所有操作都在此目录下进行。
```
cd unilm
```
3查看子项目列表

unilm 是多个子项目的集合，先列出根目录内容，确认包含哪些子项目文件夹。
```
ls
```
4阅读子项目说明

README 未提供统一安装命令，需进入具体子项目（如 deepnet、xmoe）查看其自身 README。
```
cd deepnet
```