Chinese-Mixtral

让Mixtral更懂中文,开箱即用的中文MoE模型

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 43 👀 关注 14
GitHub ↗
GitHub 星标 ★ 613
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型,Apache-2.0许可,可免费使用和部署。

项目预览

Chinese-Mixtral 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队ymcui
定价模式🏷️完全免费
价格说明开源模型,Apache-2.0许可,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型32k,64k,large-language-models,llm,mixtral,mixture-of-experts,moe,nlp
GitHub 星标★ 613
上线时间2024-01-11 00:00:00
代码更新2026-04-19
仓库体积531 KB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

Chinese-Mixtral 是一个专注于中文优化的混合专家(MoE)大语言模型项目,基于 Mixtral 架构进行中文能力增强。它解决了 Mixtral 原始模型在中文任务上表现不足的问题,通过继续预训练和指令微调,使模型在中文理解、生成、推理等场景下更准确、更自然。项目提供不同规模的模型权重和推理代码,支持 Hugging Face Transformers 直接加载使用,并针对 MoE 推理效率进行了优化。核心能力包括高质量中文对话、多轮交互、知识问答和代码生成,适合中文社区开发者快速部署和二次开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 613

使用教程

难度:高级 约 240 分钟 部署方式:本地GPU 5 步

环境要求

  • GPU 显存充足
  • 当年的推理框架
  • 中文语料评测集

安装与启动步骤

  1. 1先看清状态

    项目基于较早的基座,官方已转向更新的模型家族。

  2. 2拿权重

    模型托管平台上有增量与完整两版,按显存选。

  3. 3装对应推理栈

    当年用的框架新版未必兼容,先按仓库说明锁版本。

  4. 4验长上下文

    它主推长上下文,用真实长文档压一遍再信。

  5. 5评估是否值得用

    基座较老,新任务上先和现在的同尺寸模型比一比。

如何确认成功

在中文长文任务上能完成一次完整推理,且上下文超出常规长度后输出仍连贯

注意事项

  • 这是中文增量训练模型,作者另有更新的模型家族值得优先看。
  • 长上下文宣称与实测有差距,务必用你的文档验。
  • 推理框架版本敏感,装新时代的库经常直接报错。
  • 老基座在新任务上未必打得过现在的同尺寸开源模型,选型前先对比。

核心亮点

  • 基于Mixtral架构,MoE机制在保持性能的同时降低推理成本
  • 针对中文语料继续预训练,中文理解与生成质量显著优于原版
  • 提供完整权重和推理示例,支持Transformers直接加载,上手门槛低

不足之处

  • 模型体积大,本地部署需要较高显存,普通开发者难以运行
  • 文档/社区待观察

适用场景

  • 中文聊天机器人与智能助手开发
  • 中文文本生成、摘要、翻译等NLP任务
  • 学术研究:MoE模型中文能力分析与微调实验

替代项目

Qwen、Baichuan、ChatGLM

同类项目推荐

Yi 开源

中文大模型新选择,从零训练性能强,拿来即用可微调

A series of large language models trained from scratch by developers @01-ai

★ 7834 2026-08-09
GTT 开源

零样本预测多变量时间序列,一个模型通吃多个领域

Codebase for CIKM '24 paper -- General Time Transformer: an Encoder-only Foundation···

★ 67 2026-08-09
Consistency_LLM 开源

让大模型并行吐字,推理速度翻倍

[ICML 2024] CLLMs: Consistency Large Language Models

★ 418 2026-08-09
dalai 开源

一条命令本地跑 LLaMA,无需折腾环境

The simplest way to run LLaMA on your local machine

★ 12865 2026-08-09
PocketDex 开源

用 SwiftUI 快速撸一个宝可梦图鉴,学并发和 MVVM

A simple Pokedex app written in SwiftUI that implements the PokeAPI, using Swift Con···

★ 138 2026-08-09
PhysioWave 开源

用多尺度小波Transformer,把生理信号变成高精度AI特征

[NeurIPS 2025] PhysioWave & PhysioWave-T: token-efficient wavelet foundation models ···

★ 215 2026-08-09
awesome-ltx2 开源

找齐 LTX-2 模型、工作流和 LoRA,一键上手视频生成。

All available LTX-2 models, encoders, workflows, LoRAs for ComfyUI

★ 603 2026-08-10
flux-action 开源

7B 开源世界动作模型,让机器人看视频学动作

FLUX 3 Action: open weights 7B world action model from Black Forest Labs. Train, fin···

★ 216 2026-10-09
awesome-controlnet 开源

一站式收集 ControlNet 资源,快速上手精准可控的图像生成

Awesome repo for ControlNet

★ 97 2026-08-09