harbor

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• Docker 与 Docker Compose（README 说明 Harbor 负责 Docker Compose 编排）
• Python 环境（项目基于 Python 构建）
• 已安装 harbor CLI（README 未给出安装命令，需自行从官方仓库获取）

安装与启动步骤

1. 1启动默认技术栈

   执行后 Harbor 会自动完成编排与配置，默认启动 Open WebUI 与 llama.cpp 两个服务。

   harbor up

   复制

2. 2按需追加服务

   在默认栈之外追加 SearXNG 与 Speaches，为 Open WebUI 开启 Web RAG 及语音对话能力。

   harbor up searxng speaches

   复制

3. 3查看服务日志

   服务未按预期运行时，用 logs 子命令查看指定服务日志，排查报错原因。

   harbor logs llamacpp

   复制

4. 4进入服务环境

   直接用 shell 进入某个服务的容器环境，或在该服务中执行单条命令，无需本地安装相关工具。

   harbor shell vllm
   harbor exec llamacpp ./scripts/llama-bench --help

   复制

5. 5指定后端运行工具

   让 Codex 这类工具连接 Harbor 中指定的推理后端与模型，示例使用 ollama 与 qwen3.5:4b。

   harbor launch --backend ollama --model qwen3.5:4b codex

   复制

关键配置

如何确认成功

用 harbor logs <服务名> 查看日志无报错，再在浏览器打开 Open WebUI 界面确认可用。

常见问题

注意事项

• README 节选中未提供 harbor CLI 的安装命令，安装方式请以官方仓库说明为准。
• harbor up 不带参数时默认启动 Open WebUI 与 llama.cpp。
• Harbor 内置大量推理后端与前端，可按需组合，例如 harbor up vllm llamacpp tgi 等。
• 部分服务会自动互相联动，如 SearXNG 为 Open WebUI 启用 Web RAG。