Chinese-LLaMA-Alpaca

让 LLaMA 说好中文,消费级硬件也能训练部署

Chinese-LLaMA-Alpaca 是一个专注于中文大语言模型的开源项目,旨在将 Meta 的 LLaMA 和 Stanford 的 Alpaca 模型进行中文增强和本地化部署。它解决了原始模型中文能力不足、训练资源要求高的问题,通过扩充中文词表、发布中文指令微调数据、提供 LoRA 微调方案,让开发者能在消费级 GPU 甚至 CPU 上完成中文模型的训练和推理。项目核心能力包括:提供多种尺寸(7B/13B/33B/65B)的中文 LLaMA 和 Alpaca 模型权重、支持 Hugging Face Transformers 和 llama.cpp 等主流框架、提供完整的训练和部署教程。它降低了中文大模型的研究和应用门槛,适合学术研究、私有化部署和垂直领域定制。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 18941
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队ymcui
所属国家
定价模式free
价格说明开源项目,Apache-2.0许可,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型alpaca,alpaca-2,large-language-models,llama,llama-2,llm,lora,nlp,plm,pre-trained-language-models,quantization
GitHub 星标★ 18941
30天Star增速
HF 下载量
上线时间2023-03-15 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 通用平台,支持 CPU 或 GPU(个人 PC / 笔记本均可)
  • 已安装 git 用于拉取仓库,Python 环境(项目开发语言为 Python)
  • 需自行准备对应尺寸的模型权重(7B/13B/33B)
  • macOS 用户可选用 LlamaChat 图形界面

安装与启动步骤

  1. 1克隆项目仓库

    拉取 Chinese-LLaMA-Alpaca 的代码与脚本。README 节选未提供依赖安装命令,请以官方 Wiki 为准。

    git clone https://github.com/ymcui/Chinese-LLaMA-Alpaca.git
  2. 2阅读官方 Wiki

    README 把部署细节全部指向 GitHub Wiki 的“模型推理与部署”页面,先按该页面挑选对应教程。

  3. 3选择部署方式

    按硬件与需求选择:llama.cpp、Transformers、text-generation-webui、LlamaChat(macOS)、LangChain、privateGPT 或 Colab Demo。

  4. 4准备模型权重

    按所选方式获取模型,可选 7B/13B/33B 的基础版、Plus 版或 Pro 版。README 未给出下载命令,请以官方发布页面为准。

如何确认成功

按所选 Wiki 教程完成部署后,能在本地(CPU 或 GPU)输入中文指令并得到模型的中文回复,即表示推理成功。

常见问题

Q:项目支持哪些本地推理与部署方式?

A:llama.cpp、Transformers、text-generation-webui、LlamaChat(macOS)、LangChain、privateGPT、Colab Gradio Demo,以及仿 OpenAI 的 API 接口 Demo,教程见 Wiki。

Q:没有独立显卡能跑吗?

A:可以。README 说明支持在笔记本电脑或个人 PC 的 CPU 上做本地量化部署体验大模型,这类场景推荐使用 llama.cpp。

Q:有哪些模型尺寸和版本可选?

A:目前已开源 7B、13B、33B 三种尺寸,每个尺寸都包含基础版、Plus 版和 Pro 版。

Q:为什么找不到具体的安装命令?

A:本 README 节选只给出部署方式对照表,具体量化与部署步骤全部收录在 GitHub Wiki 的“模型推理与部署”页面中。

注意事项

  • 本 README 节选未包含 pip、docker 等具体安装命令,实际操作请以官方 Wiki 教程为准。
  • 项目已启动新版 Chinese-LLaMA-Alpaca-3,可按需关注新仓库。

核心亮点

  • 扩充中文词表并发布增量预训练权重,显著提升中文理解和生成能力
  • 提供 LoRA 微调方案,单张消费级显卡即可训练,降低硬件门槛
  • 支持 CPU 推理和多种量化方式,部署灵活,覆盖低配环境

不足之处

  • 基于 LLaMA 的衍生模型,商用需注意 Meta 的许可限制
  • 文档/社区待观察

适用场景

  • 学术研究:在中文语料上微调模型,探索中文 NLP 任务
  • 企业私有化部署:在本地 CPU/GPU 环境运行中文对话或文本生成服务
  • 垂直领域定制:基于中文 Alpaca 进行领域微调,如金融、法律问答

替代项目

BELLE、MOSS、ChatGLM

项目介绍

Chinese-LLaMA-Alpaca 是开源模型领域的开源项目,由 ymcui 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(18,941)位列前 3%,在开源模型分类的 424 个项目里位列前 3%。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。Apache-2.0许可,完全免费,可自行部署使用。

它主要面向的使用场景是:学术研究:在中文语料上微调模型,探索中文NLP任务。同类可对比的替代方案包括 BELLE、MOSS、ChatGLM。

上一篇:architecture.of.internet-product

下一篇:Janus

同类项目推荐

Machine-Learning 开源

跟着博客笔记,边看边跑机器学习代码

All content related to machine learning from my blog

★ 115 2026-08-09
awesome-ltx2 开源

找齐 LTX-2 模型、工作流和 LoRA,一键上手视频生成。

All available LTX-2 models, encoders, workflows, LoRAs for ComfyUI

★ 593 2026-08-10