项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-12 · 当前星标 ★ 4563
使用教程
环境要求
- Python 环境(本地运行方式需 Python 虚拟环境)
- 推荐安装 uv 依赖管理工具,pip install . 亦可
- Docker 与 Docker Compose v2.23.0 及以上(Docker 方式)
- 至少一个 LLM 模型提供商的 API Key
安装与启动步骤
-
1克隆代码仓库
把项目源码下载到本地并进入项目根目录,后续所有命令都在该目录执行。
git clone https://github.com/JoshuaC215/agent-service-toolkit.git cd agent-service-toolkit -
2准备环境变量
从示例文件复制出 .env,然后编辑它填入至少一个 LLM API Key,否则服务无法调用模型。
cp .env.example .env -
3安装 uv 工具
README 推荐用 uv 安装依赖;若已装过可跳过,也可直接用 pip install . 替代。
curl -LsSf https://astral.sh/uv/0.12.5/install.sh | sh -
4安装项目依赖
uv sync 会自动创建 .venv 虚拟环境并安装全部依赖,随后激活该虚拟环境。
uv sync --frozen source .venv/bin/activate -
5启动 Agent 服务
运行 FastAPI 服务端,保持该终端窗口不要关闭;接口将监听 8080 端口。
python src/run_service.py -
6启动聊天界面
另开一个终端激活同一虚拟环境后运行 Streamlit 应用,即可获得聊天 UI。
streamlit run src/streamlit_app.py -
7Docker 一键启动
按 README 推荐方式,用 watch 模式同时拉起 postgres、agent_service 与 streamlit_app 三个服务。
docker compose watch
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
OPENAI_API_KEY | 是 | LLM 模型调用密钥,至少配置一个提供商的 Key | sk-xxxxxxxx |
如何确认成功
浏览器访问 http://localhost:8501 能看到聊天界面,API 文档 http://0.0.0.0:8080/redoc 可正常打开。
常见问题
Q:必须配置 API Key 吗?
A:是。README 明确要求至少提供一个 LLM API Key 或其他模型提供商配置,否则服务无法正常对话。
Q:没有 Docker 可以运行吗?
A:可以。使用 uv sync --frozen 安装依赖后,分别在两个终端运行 python src/run_service.py 和 streamlit run src/streamlit_app.py 即可。
Q:修改了依赖文件要怎么办?
A:若改动了 pyproject.toml 或 uv.lock,docker compose watch 不会自动生效,需要执行 docker compose up --build 重建服务。
Q:如何接入 Ollama 或 VertexAI?
A:README 提供了单独文档:Ollama 见 docs/Ollama.md,VertexAI 见 docs/VertexAI.md,按文档追加配置即可。
注意事项
- Docker 方式要求 Docker Compose 版本不低于 v2.23.0。
- 暂不支持 uv 时可用 pip install . 安装依赖,README 明确说明同样可行。
- 停止 Docker 服务使用 docker compose down。
- .env.example 中还有更多环境变量(认证、LangSmith 追踪等)可参考其注释配置。
核心亮点
- 集成 LangGraph+FastAPI+Streamlit 三层,克隆即可跑通完整对话链路
- 内置流式输出与消息历史持久化,省去自建会话管理
- 提供多智能体配置与示例,便于按业务替换或扩展节点
不足之处
- 偏重服务骨架,复杂生产级鉴权、限流、监控需自行补齐
- Streamlit 前端仅适合演示,正式产品仍需另做前端
适用场景
- 快速验证基于 LangGraph 的智能体对话流程
- 为内部工具搭建带 API 和聊天界面的智能体服务
- 作为教学或原型项目学习智能体服务端架构
替代项目
LangServe、Chainlit、Streamlit
下一篇:project-oagents
同类项目推荐
TaskingAI
开源
一站式搭建 AI 原生应用,省去模型对接和编排烦恼
The open source platform for AI-native application development.
promptdesk
开源
一站式管理提示词与模型评估,让 LLM 应用开发更高效。
Promptdesk is a tool designed for effectively creating, organizing, and evaluating p···
agf
开源
一个终端命令,找回所有 AI 助手的聊天记录
Find, search, and resume local AI coding-agent sessions across Muse Code, Claude Cod···
dotprompt
开源
把提示词写成可执行模板,告别字符串拼接
Executable GenAI prompt templates
SeargeSDXL
开源
拖拽节点,一键跑通 SDXL 高清出图
Custom nodes and workflows for SDXL in ComfyUI
LLMTornado
开源
用 .NET 快速构建多智能体应用,内置 30+ 连接器开箱即用
The .NET library to build AI agents with 30+ built-in connectors.
anthropic-sdk-go
开源
官方 Go SDK,类型安全调用 Claude 模型
Access to Anthropic's safety-first language model APIs via Go
TorchUMM
开源
一套工具包搞定多模态模型训练与评测
A unified multimodal model toolkit (NeurIPS'26)
modelscope-studio
开源
用 Gradio 快速搭建专业级 AI 对话界面
A third-party component library based on Gradio. Integrates Ant Design, Ant Design X···
