Chinese-LLaMA-Alpaca

让 LLaMA 说好中文,消费级硬件也能训练部署

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 1833 🐛 待处理 5 👀 关注 182
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 18916
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可,完全免费,可自行部署使用。

项目预览

Chinese-LLaMA-Alpaca 项目界面预览图
图片来源:项目官网

项目数据

分类开源模型
开发团队ymcui
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型alpaca,alpaca-2,large-language-models,llama,llama-2,llm,lora,nlp,plm,pre-trained-language-models,quantization
GitHub 星标★ 18916
上线时间2023-03-15 00:00:00
代码更新2026-04-19
仓库体积23.5 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数2

项目介绍

Chinese-LLaMA-Alpaca 是一个专注于中文大语言模型的开源项目,旨在将 Meta 的 LLaMA 和 Stanford 的 Alpaca 模型进行中文增强和本地化部署。它解决了原始模型中文能力不足、训练资源要求高的问题,通过扩充中文词表、发布中文指令微调数据、提供 LoRA 微调方案,让开发者能在消费级 GPU 甚至 CPU 上完成中文模型的训练和推理。项目核心能力包括:提供多种尺寸(7B/13B/33B/65B)的中文 LLaMA 和 Alpaca 模型权重、支持 Hugging Face Transformers 和 llama.cpp 等主流框架、提供完整的训练和部署教程。它降低了中文大模型的研究和应用门槛,适合学术研究、私有化部署和垂直领域定制。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 18916

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 通用平台,支持 CPU 或 GPU(个人 PC / 笔记本均可)
  • 已安装 git 用于拉取仓库,Python 环境(项目开发语言为 Python)
  • 需自行准备对应尺寸的模型权重(7B/13B/33B)
  • macOS 用户可选用 LlamaChat 图形界面

安装与启动步骤

  1. 1克隆项目仓库

    拉取 Chinese-LLaMA-Alpaca 的代码与脚本。README 节选未提供依赖安装命令,请以官方 Wiki 为准。

    git clone https://github.com/ymcui/Chinese-LLaMA-Alpaca.git
  2. 2阅读官方 Wiki

    README 把部署细节全部指向 GitHub Wiki 的“模型推理与部署”页面,先按该页面挑选对应教程。

  3. 3选择部署方式

    按硬件与需求选择:llama.cpp、Transformers、text-generation-webui、LlamaChat(macOS)、LangChain、privateGPT 或 Colab Demo。

  4. 4准备模型权重

    按所选方式获取模型,可选 7B/13B/33B 的基础版、Plus 版或 Pro 版。README 未给出下载命令,请以官方发布页面为准。

如何确认成功

按所选 Wiki 教程完成部署后,能在本地(CPU 或 GPU)输入中文指令并得到模型的中文回复,即表示推理成功。

常见问题

Q:项目支持哪些本地推理与部署方式?

A:llama.cpp、Transformers、text-generation-webui、LlamaChat(macOS)、LangChain、privateGPT、Colab Gradio Demo,以及仿 OpenAI 的 API 接口 Demo,教程见 Wiki。

Q:没有独立显卡能跑吗?

A:可以。README 说明支持在笔记本电脑或个人 PC 的 CPU 上做本地量化部署体验大模型,这类场景推荐使用 llama.cpp。

Q:有哪些模型尺寸和版本可选?

A:目前已开源 7B、13B、33B 三种尺寸,每个尺寸都包含基础版、Plus 版和 Pro 版。

Q:为什么找不到具体的安装命令?

A:本 README 节选只给出部署方式对照表,具体量化与部署步骤全部收录在 GitHub Wiki 的“模型推理与部署”页面中。

注意事项

  • 本 README 节选未包含 pip、docker 等具体安装命令,实际操作请以官方 Wiki 教程为准。
  • 项目已启动新版 Chinese-LLaMA-Alpaca-3,可按需关注新仓库。

核心亮点

  • 扩充中文词表并发布增量预训练权重,显著提升中文理解和生成能力
  • 提供 LoRA 微调方案,单张消费级显卡即可训练,降低硬件门槛
  • 支持 CPU 推理和多种量化方式,部署灵活,覆盖低配环境

不足之处

  • 基于 LLaMA 的衍生模型,商用需注意 Meta 的许可限制
  • 文档/社区待观察

适用场景

  • 学术研究:在中文语料上微调模型,探索中文 NLP 任务
  • 企业私有化部署:在本地 CPU/GPU 环境运行中文对话或文本生成服务
  • 垂直领域定制:基于中文 Alpaca 进行领域微调,如金融、法律问答

替代项目

BELLE、MOSS、ChatGLM

上一篇:architecture.of.internet-product

下一篇:Janus

同类项目推荐

Index-1.9B 开源

19亿参数小模型,普通显卡也能跑多语言对话

A lightweight multilingual LLM

★ 1038 2026-09-16
MakeMoneyWithAI 开源

翻开源清单,找能赚钱的 AI 项目,快速变现

A list of open-source AI projects you can use to generate income easily.

★ 1197 2026-08-09
Qwen2.5-Math 开源

数学推理专用大模型,解方程、证明题更准更稳

A series of math-specific large language models of our Qwen2 series.

★ 1084 2026-08-09
VibeThinker 开源

1.5B小模型,跑出大模型推理逻辑

Tiny Model, Big Logic: Diversity-Driven Optimization Elicits Large-Model Reasoning A···

★ 1586 2026-08-09
DALLE2-pytorch 开源

用 PyTorch 复现 DALL-E 2,轻松训练自己的文本生图模型

Implementation of DALL-E 2, OpenAI's updated text-to-image synthesis neural network,···

★ 11302 2026-08-09
HRM 开源

让AI学会分步思考,复杂推理不再翻车

Hierarchical Reasoning Model Official Release

★ 12667 2026-08-09
eullm 开源

让大模型合规落地欧盟,垂直定制一步到位

Open-source platform for creating, distributing and running sovereign EU-compliant L···

★ 61 2026-08-09
Kyara 开源

轻量级中文模型,Kaggle 亚军方案,资源有限也能训出好效果。

[Kaggle-2nd] Lightweight yet Effective Traditional Chinese LLM.

★ 57 2026-08-09
Ming-UniVision 开源

一个模型搞定图像理解与生成,统一分词器赋能视觉任务

Code release for Ming-UniVision: Joint Image Understanding and Geneation with a Cont···

★ 144 2026-08-09