TrustRAG

环境要求

• Python 3.12.0（README 的 conda 示例版本）
• pip（用于安装 trustrag 或源码依赖）
• conda（可选，README 建议用于创建隔离环境）
• 本地可用的 LLM 权重（如 chatglm3-6b）
• 本地可用的向量与重排模型权重（如 bge-large-zh-v1.5、bge-reranker-large）

安装与启动步骤

1. 1创建并激活环境

   README 建议用 conda 建独立环境，Python 版本写的是 3.12.0，此步可选但推荐，避免依赖冲突。

   conda create -n trustrag python=3.12.0
   conda activate trustrag

   复制

2. 2pip 安装 TrustRAG

   官方方式一：直接通过 pip 安装已发布的 trustrag 包，适合快速试用与常规使用。

   pip install trustrag

   复制

3. 3源码安装方式

   官方方式二：克隆仓库后以可编辑模式安装，便于修改源码、自定义组件和调试。

   git clone https://github.com/gomate-community/TrustRAG.git
   cd TrustRAG
   pip install -e .

   复制

4. 4修改应用配置

   在代码中设置文档目录、LLM 路径、检索与重排模型路径，再构建 RagApplication 并初始化向量库。

   app_config = ApplicationConfig()
   app_config.docs_path = "./docs/"
   app_config.llm_model_path = "/data/users/searchgpt/pretrained_models/chatglm3-6b/"
   
   retriever_config = DenseRetrieverConfig(
       model_name_or_path="/data/users/searchgpt/pretrained_models/bge-large-zh-v1.5",
       dim=1024,
       index_dir='/data/users/searchgpt/yq/TrustRAG/examples/retrievers/dense_cache'
   )
   rerank_config = BgeRerankerConfig(
       model_name_or_path="/data/users/searchgpt/pretrained_models/bge-reranker-large"
   )
   
   app_config.retriever_config = retriever_config
   app_config.rerank_config = rerank_config
   application = RagApplication(app_config)
   application.init_vector_store()

   复制

5. 5启动应用

   在项目目录下执行 app 脚本启动服务，注意需先完成上面的模型路径配置，否则会加载失败。

   python app.py

   复制

6. 6浏览器访问界面

   用浏览器打开本地 7860 端口使用 Web 界面，同时查看后端日志确认检索与生成流程正常。

关键配置

如何确认成功

终端出现后端启动日志且无报错，浏览器打开 http://127.0.0.1:7860 能看到 Web 界面。

常见问题

注意事项

• README 示例中的 /data/users/searchgpt/... 均为示例路径，务必替换为本地真实路径。
• README 未提供 Docker 部署与独立配置文件的说明，配置均在 Python 代码中完成。
• README 未说明 conda 之外的依赖安装细节，若 pip 安装失败可改用源码方式。
• README 只给出 127.0.0.1:7860 本地访问方式，未说明对外暴露或远程访问的配置。