ERNIE

用知识增强预训练,快速搞定复杂NLP任务

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 1444 🐛 待处理 80 👀 关注 189
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 7740
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型及工具包,基于PaddlePaddle,Apache-2.0许可,可免费使用和部署。

项目预览

ERNIE 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队PaddlePaddle
定价模式🏷️完全免费
价格说明开源模型及工具包,基于PaddlePaddle,Apache-2.0许可,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ernie,ernie-45,ernie-45-vl,erniekit,llm,vlm
GitHub 星标★ 7740
上线时间2019-03-03 00:00:00
代码更新2026-07-24
仓库体积145.4 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

ERNIE是百度开源的预训练语言模型系列,本仓库为ERNIE 4.5及ERNIEKit工业级开发工具包的官方实现,基于PaddlePaddle深度学习框架。ERNIE通过知识增强的预训练技术,在自然语言理解、生成、多模态等任务上表现优异,解决了传统预训练模型缺乏先验知识、难以适配复杂业务场景的问题。核心能力包括:支持文本分类、序列标注、语义匹配、阅读理解、文本生成等主流NLP任务;提供从模型训练、微调到部署的全流程工具链;内置知识增强、多任务学习、模型压缩等先进技术;兼容大规模分布式训练和推理优化。该仓库面向研究者和开发者,帮助快速构建和部署高性能NLP应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7740

技术标签

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 15 分钟 部署方式:模型权重 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(ERNIE 4.5 / ERNIEKit 基于 PaddlePaddle 框架)
  • ERNIEKit 工具包(训练、微调用途,README 指向 docs/erniekit.md)
  • FastDeploy 推理部署工具包(README 指向其 GitHub 仓库)
  • 可访问 Hugging Face(huggingface.co/baidu)以获取 ERNIE 4.5 系列模型权重
  • 训练 ERNIE 4.5 大模型通常需要 GPU 环境

安装与启动步骤

  1. 1克隆 ERNIE 仓库

    README 给出了官方仓库地址,先克隆到本地以获取 ERNIEKit 工具包与 cookbook、docs 等资料。

    git clone https://github.com/PaddlePaddle/ERNIE.git
  2. 2阅读训练文档

    README 的 Training 链接指向 docs/erniekit.md,安装 ERNIEKit 的具体步骤以该文档为准,节选中未给出安装命令。

  3. 3获取模型权重

    README 提供百度 Hugging Face 组织页,可在其中找到 ERNIE-4.5、ERNIE-4.5-VL 等模型权重进行下载。

  4. 4安装 FastDeploy

    README 说明推理与部署需参考 FastDeploy 仓库,其安装方式以该仓库说明为准,节选中未列出具体命令。

  5. 5启动训练或推理

    README 表示 ERNIEKit 安装成功后即可开始训练 ERNIE 4.5 模型,但节选中的命令代码块内容缺失,需回原文档查看。

如何确认成功

README 节选未给出验证步骤;建议按 ERNIEKit 文档中的训练命令运行,观察日志与训练进程是否正常启动。

常见问题

Q:节选里没有安装命令,能照抄吗?

A:不能。README 节选中 ERNIEKit 的命令代码块为空,完整安装与训练命令需查看 docs/erniekit.md 原文。

Q:模型权重从哪里下载?

A:README 给出 Hugging Face 组织页 https://huggingface.co/baidu,其中包含百度开源的 ERNIE 4.5、ERNIE-4.5-VL 等权重。

Q:怎么做推理部署?

A:README 将部署指向 FastDeploy 仓库,它是基于 PaddlePaddle 的推理部署工具包,支持 OpenAI API server 和 vLLM 兼容。

Q:支持哪些训练能力?

A:README 更新日志提到 ERNIEKit 支持 ERNIE-4.5-VL-28B-A3B-Thinking 的 SFT 与函数调用训练、PaddleOCR-VL-0.9B 的 SFT,以及 padding-free 策略。

注意事项

  • 本教程仅依据 README 节选整理,节选中缺少可执行的安装与训练命令,实际部署请以 docs/erniekit.md 与 FastDeploy 仓库为准。
  • ERNIEKit 版本迭代较快(v1.3→v1.5),安装前建议确认所选版本与目标模型的对应关系。
  • 大模型训练对显存要求高,建议提前评估硬件资源。

核心亮点

  • 知识增强机制,融合词汇、句法、语义等先验知识,提升模型理解力
  • ERNIEKit提供工业级工具链,覆盖数据预处理、训练、压缩、部署全流程
  • 基于PaddlePaddle,支持大规模分布式训练和推理优化,适合生产环境

不足之处

  • 依赖PaddlePaddle框架,迁移至PyTorch/TensorFlow生态成本较高
  • 文档和社区相比Hugging Face生态尚待完善,中文资料为主

适用场景

  • 中文NLP任务,如情感分析、命名实体识别、智能问答
  • 企业级文本理解与生成,如客服机器人、内容审核
  • 多模态理解,如图文匹配、视觉问答

替代项目

BERT、RoBERTa、T5

上一篇:InternVL

下一篇:Chinese-LLaMA-Alpaca-2

同类项目推荐

cosmos 开源

用世界模型造物理AI训练数据,省真机成本

NVIDIA Cosmos is an open platform of world models, datasets, and tools that enables ···

★ 12316 2026-09-21
Attention-Sink 开源

看清注意力汇聚如何产生,优化你的语言模型训练与推理。

[ICLR 2025] When Attention Sink Emerges in Language Models: An Empirical View (Spotl···

★ 164 2026-08-09
CodeGen 开源

自然语言直接生成代码,媲美Codex的开源模型

CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. C···

★ 5180 2026-08-09
YuLan-Chat 开源

人大出品,从零训练大模型的开源参考实现

YuLan: An Open-Source Large Language Model

★ 633 2026-08-09
MiniMax-M2 开源

写代码、跑智能体,一个模型全搞定

MiniMax-M2, a model built for Max coding & agentic workflows.

★ 2603 2026-08-09
awesome-vlm-architectures 开源

一张图看懂155+视觉语言模型架构,快速选型不迷路

Curated visual catalog of 200+ vision-language model (VLM/MLLM) architectures: paper···

★ 1358 2026-08-09
awesome-generative-ai 开源

一榜在手,尽览生成式AI前沿项目与工具

A curated list of modern Generative Artificial Intelligence projects and services

★ 12816 2026-08-09
Awesome-Code-LLM 开源

一张表看懂代码大模型,快速选型不迷路

‍ An awesome and curated list of best code-LLM for research.

★ 1295 2026-08-09