KnowLM

给大模型注入知识，让回答更专业准确

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 130 👀 关注 11

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1386

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源框架，MIT许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队zjunlp

官网地址http://knowlm.zjukg.cn

GitHubhttps://github.com/zjunlp/KnowLM

定价模式🏷️完全免费

价格说明开源框架，MIT许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型bilingual,chinese,deep-learning,deepspeed,english,gpt-3,instructie,instruction-following,instruction-tuning,instructions,knowlm,language-model,large-language-models,llama,lora,models,pre-trained-language-models,pre-trained-model,pre-training,reasoning

GitHub 星标★ 1386

上线时间2023-04-01 00:00:00

代码更新2025-01-11

仓库体积39.6 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数6

项目介绍

KnowLM 是一个开源的知识增强大语言模型框架，旨在提升大模型在知识密集型任务上的表现。它通过整合外部知识库、知识图谱和结构化数据，在预训练、微调和推理阶段注入知识，解决通用大模型在专业领域知识不足、事实性错误和推理能力弱的问题。核心能力包括知识注入的模型训练工具链、知识感知的指令微调方法，以及支持多任务的知识评估基准。框架基于 Python 构建，提供灵活的接口，方便开发者集成自定义知识源，并支持模型的高效部署。项目处于成长阶段，社区活跃，适合需要构建领域专用知识模型的研发团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1386

技术标签

bilingual chinese deep-learning english gpt-3

使用教程

难度：进阶约 20 分钟部署方式：本地安装 7 步

环境要求

Python 3.9
conda 环境管理工具
PyTorch 1.13.1+cu116 及对应 CUDA 11.6
NVIDIA GPU（案例在 V100 上运行）
git

安装与启动步骤

1克隆仓库

从 GitHub 克隆 KnowLM 项目到本地，并进入项目目录。
```
git clone https://github.com/zjunlp/KnowLM.git
cd KnowLM
```
2创建并激活环境

使用 conda 创建 Python 3.9 虚拟环境并激活，环境名 knowlm。
```
conda create -n knowlm python=3.9 -y
conda activate knowlm
```
3安装 PyTorch

安装与 CUDA 11.6 对应的 PyTorch 1.13.1。若 CUDA 版本不同请自行调整。
```
pip install torch==1.13.1+cu116 --extra-index-url https://download.pytorch.org/whl/cu116
```
4安装项目依赖

根据 requirements.txt 安装项目所需 Python 依赖。
```
pip install -r requirements.txt
```
5命令行交互

加载 knowlm-13b-base 模型，进入命令行交互模式；单卡显存不足时可加 --multi_gpu。
```
python examples/generate_finetune.py --base_model zjunlp/knowlm-13b-base-v1.0 --interactive
```
6启动 Web 交互

启动 Pretraining 模型的 Web 交互页面，适合灵活调整任务。
```
python examples/generate_finetune_web.py --base_model zjunlp/knowlm-13b-base-v1.0
```

7启动 vLLM API

启动 vLLM API 服务，监听 8090 端口，使用多卡张量并行加速。需指定模型路径 data/zhixi-13B。

CUDA_VISIBLE_DEVICES=1,2 python inference/launch_vllm.py --port 8090 --model data/zhixi-13B --use-np-weights --max-num-batched-tokens 8000 --dtype half --tensor-parallel-size 2

关键配置

配置项	必填	说明	示例
`--base_model`	是	指定要加载的基础模型名称或路径	`zjunlp/knowlm-13b-base-v1.0`
`--model`	是	vLLM 服务加载的模型权重路径	`data/zhixi-13B`
`--port`	是	vLLM API 服务监听的端口	`8090`
`--multi_gpu`	否	单卡显存不足时启用多卡加载	`--multi_gpu`
`--tensor-parallel-size`	否	vLLM 张量并行使用的 GPU 数量	`2`