code-act

环境要求

• Python 3.10 环境（README 用 conda 创建 llamacpp 环境）
• 使用 vLLM 推理时需要 nvidia-docker
• 必须先启动模型服务（vLLM、llama.cpp 或 ollama）
• 必须先启动代码执行引擎（提供 /execute 接口的 Jupyter kernel 服务）
• 如需 Chat UI 需准备 .env.local 配置文件

安装与启动步骤

1. 1创建 Python 环境

   按 README 用 conda 新建一个 Python 3.10 环境，避免与系统 Python 冲突。

   conda create -n llamacpp python=3.10

   复制

2. 2安装依赖

   进入 llama.cpp 目录、激活环境后安装 requirements.txt 中的依赖。

   cd llama.cpp
   conda activate llamacpp
   pip install -r requirements.txt

   复制

3. 3启动模型服务

   README 要求运行 demo 前必须先启动模型服务，可用 vLLM（需 nvidia-docker）或 llama.cpp；笔记本上可改用官方 ollama 模型。

4. 4启动代码执行引擎

   README 要求先启动代码执行引擎，它对外提供 /execute 接口供智能体执行代码动作。

5. 5运行对话 Demo

   把 host、port 换成你自己模型服务和执行引擎的实际地址后运行脚本，验证 CodeActAgent 能返回回复并执行代码。

   python3 scripts/chat/demo.py --model_name xingyaoww/CodeActAgent-Mistral-7b-v0.1 --openai_api_base http://localhost:8000/v1 --jupyter_kernel_url http://localhost:8080/execute

   复制

6. 6启动 Chat UI

   先按注释把 .env.local 的配置填写正确，再用调试脚本启动 Chat UI。

   ./scripts/chat/run_chat_ui_debug.sh

   复制

关键配置

如何确认成功

demo 脚本正常运行并打印模型回复与代码执行结果，无接口连接报错；Chat UI 调试脚本启动后页面可正常打开并对答。

常见问题

注意事项

• 运行 demo.py 前必须确保模型服务和代码执行引擎都已启动
• 命令中的 localhost:8000、localhost:8080 只是示例值，需替换为你实际的服务地址与端口
• 使用 vLLM 推理需要预先安装 nvidia-docker
• 启动 Chat UI 前必须按注释正确填写 .env.local，否则无法连接后端