Chinese-LLaMA-Alpaca-2

让 LLaMA-2 说好中文,支持 64K 超长上下文,开箱即用。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 557 🐛 待处理 6 👀 关注 73
GitHub ↗
GitHub 星标 ★ 7098
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型,Apache-2.0许可,完全免费,可自行部署使用。

项目预览

Chinese-LLaMA-Alpaca-2 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队ymcui
定价模式🏷️完全免费
价格说明开源模型,Apache-2.0许可,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型64k,alpaca,alpaca-2,alpaca2,flash-attention,large-language-models,llama,llama-2,llama2,llm,nlp,rlhf,yarn
GitHub 星标★ 7098
上线时间2023-07-18 00:00:00
代码更新2026-04-19
仓库体积8.4 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

Chinese-LLaMA-Alpaca-2 是面向中文场景的 LLaMA-2 和 Alpaca-2 大语言模型二期开源项目,旨在解决原版 LLaMA-2 中文能力不足、词表覆盖有限的问题。项目通过扩充中文词表、增量预训练和指令微调,提供了从 7B 到 70B 多个尺寸的基座模型和对话模型,并支持 64K 超长上下文版本,显著提升模型对中文文本的理解与生成能力。核心能力包括:提供完整的模型权重、训练脚本和推理代码,支持 Hugging Face Transformers 和 llama.cpp 等主流框架,便于开发者直接部署或二次开发。项目还包含数据构建、训练细节和评测结果等文档,帮助用户复现和调优。整体上,它降低了中文大模型的使用门槛,适合学术研究、商业应用和社区开发者快速构建中文 AI 应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7098

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 30 分钟 部署方式:模型权重 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 Git,用于克隆项目仓库
  • 具备 Python 运行环境(项目开发语言为 Python)
  • 可用的 CPU 或 GPU 推理环境(模型同时支持 CPU/GPU 推理)
  • 训练加速建议使用支持 FlashAttention-2 的 GPU
  • 足够的磁盘空间存放 7B~70B 模型权重

安装与启动步骤

  1. 1克隆项目仓库

    把 Chinese-LLaMA-Alpaca-2 代码仓库下载到本地,后续脚本与文档都在其中。

    git clone https://github.com/ymcui/Chinese-LLaMA-Alpaca-2.git
  2. 2查看官方文档

    README 未给出安装命令,需先打开项目 Wiki 阅读对应教程,再决定后续操作。

  3. 3选择部署工具

    按硬件条件从表格中挑工具:llama.cpp 适合本地量化推理,Transformers 为原生接口,text-generation-webui 带 GUI。

  4. 4准备运行环境

    项目为 Python 项目,需准备 Python 环境;纯 CPU 也可推理,GPU 训练可选配 FlashAttention-2。

  5. 5获取模型权重

    从项目 Wiki 或 Hugging Face 下载对应尺寸权重,含基座、指令精调、RLHF 与长上下文版本。

  6. 6按教程启动推理

    严格按所选工具的 Wiki 教程完成量化、加载与启动,README 未提供统一启动命令。

如何确认成功

按所选工具的 Wiki 教程启动后,能正常加载模型并返回中文对话结果即视为成功。

常见问题

Q:原版 Llama-2 中文效果不好怎么办?

A:本项目在原版 Llama-2 基础上扩充并优化了中文词表,并用大规模中文数据增量预训练,中文语义与指令理解能力显著提升。

Q:支持多长的上下文?

A:标准版模型支持 4K 上下文,长上下文版支持 16K 和 64K;注意 vLLM 后端不支持长上下文版本模型。

Q:没有 GPU 可以用吗?

A:可以。llama.cpp、Transformers、仿 OpenAI API、LangChain 等工具在表格中均标注支持 CPU 推理。

Q:支持哪些部署方式?

A:支持 llama.cpp、Transformers、Colab Demo、仿 OpenAI API、text-generation-webui、LangChain、privateGPT,详见对应 Wiki 教程。

Q:有更新的版本吗?

A:README 顶部已宣布 Chinese-LLaMA-Alpaca-3 项目启动,可前往新仓库了解后续版本。

注意事项

  • README 节选中没有具体安装命令,实际部署请以项目 Wiki 中对应工具的教程为准。
  • 长上下文版本模型需要第三方库支持自定义 RoPE。
  • vLLM 后端不支持长上下文版本模型。
  • 部分特性(如 text-generation-webui 的 API、LangChain 的 CPU/量化)工具支持但教程中未实现,需参考对应官方文档。

核心亮点

  • 扩充中文词表至 8K+,中文理解与生成效果显著优于原版 LLaMA-2
  • 提供 7B/13B/70B 多尺寸模型,覆盖基座和对话场景,灵活适配不同算力
  • 支持 64K 超长上下文,适合处理长文档和复杂对话

不足之处

  • 模型体积较大,推理资源需求高,普通开发者难以本地部署
  • 文档/社区待观察

适用场景

  • 中文智能客服与对话系统开发
  • 中文长文本摘要、信息抽取等 NLP 任务
  • 学术研究中的中文大模型微调与评测

替代项目

Chinese-LLaMA-Alpaca、BELLE、MOSS

上一篇:ERNIE

下一篇:GLM-5

同类项目推荐

awesome-controlnet 开源

一站式收集 ControlNet 资源,快速上手精准可控的图像生成

Awesome repo for ControlNet

★ 97 2026-08-09
MooER 开源

开箱即用的端到端语音对话模型,一句话搞定实时交互

MooER: Moore-threads Open Omni model for speech-to-speech intERaction. MooER-omni in···

★ 219 2026-08-09
Nitro-1 开源

一步生成高清图,让扩散模型快如闪电

This repo provides a working re-implementation of Latent Adversarial Diffusion Disti···

★ 126 2026-08-09
Awesome-Code-LLM 开源

一张表看懂代码大模型,快速选型不迷路

‍ An awesome and curated list of best code-LLM for research.

★ 1295 2026-08-09
StableDiffusion-PyTorch 开源

从零手写 Stable Diffusion,彻底搞懂扩散模型原理

This repo implements a Stable Diffusion model in PyTorch with all the essential comp···

★ 256 2026-08-09
MeanFlowNFT 开源

用强化学习让图像生成少步快跑,质量不打折

[arXiv 2026] This is the official PyTorch implementation of "MeanFlowNFT: Bringing F···

★ 99 2026-08-09
sd-webui-complete-setup 开源

在 Jupyter 里一键装好 Stable Diffusion,省去环境折腾

Jupyter notebook for Stable Diffusion Web UI and Stable Diffusion Web UI Forge.

★ 50 2026-08-09
awesome-opensource-ai 开源

每日更新,帮你精选最值得关注的真正开源AI项目。

Curated list of the best truly open-source AI projects, models, tools, and infrastru···

★ 5004 2026-08-09
VisualRWKV 开源

让 RWKV 看懂图片,多模态推理更高效

VisualRWKV is the visual-enhanced version of the RWKV language model, enabling RWKV ···

★ 247 2026-08-09