chunkr

环境要求

• 已安装 Docker 与 Docker Compose
• GPU 部署需安装 NVIDIA Container Toolkit（可选，CPU 部署不需要）
• 本地已克隆仓库（git clone 后进入 chunkr 目录）

安装与启动步骤

1. 1准备 Docker 环境

   按 README 前置要求安装 Docker 和 Docker Compose；若要 GPU 加速，还需额外安装 NVIDIA Container Toolkit。

2. 2克隆项目仓库

   从 GitHub 拉取 chunkr 源码并进入项目目录，后续 compose 命令都在此目录执行。

   git clone https://github.com/lumina-ai-inc/chunkr
   cd chunkr

   复制

3. 3配置 LLM

   README 给出两种方式：models.yaml 文件（可配多个 LLM 及高级选项）或环境变量（只配单个 LLM）。

4. 4启动服务(GPU)

   有 NVIDIA GPU 时，直接用默认 compose 配置后台启动全部服务。

   docker compose up -d

   复制

5. 5启动服务(CPU)

   没有 GPU 时，叠加 compose.cpu.yaml 以纯 CPU 方式后台启动。

   docker compose -f compose.yaml -f compose.cpu.yaml up -d

   复制

6. 6停止服务

   需要关闭时，按对应的部署方式执行 down；CPU 部署记得带上 compose.cpu.yaml。

   docker compose down
   docker compose -f compose.yaml -f compose.cpu.yaml down

   复制

关键配置

如何确认成功

README 未提供验证命令，可用 docker compose ps 查看容器是否处于运行状态，确认服务已启动。

常见问题

注意事项

• 开源版与 chunkr.ai 云 API 是两套不同实现，模型来源不同，效果存在差异。
• GPU 部署前请先确认 NVIDIA Container Toolkit 已正确安装，否则容器无法使用显卡。
• CPU 与 GPU 两种启动方式必须使用不同的 compose 组合，不要混用。
• README 未给出具体环境变量名、端口号和服务地址，配置前建议查看仓库内 models.yaml 与 compose 文件。