agent-service-toolkit

用 LangGraph 快速搭出带界面的 AI 智能体服务

agent-service-toolkit 是一个基于 LangGraph、FastAPI 和 Streamlit 构建的 AI Agent 服务全栈工具包。它解决的是开发者从零搭建可生产部署的智能体服务时，需要自行拼装对话编排、API 接口、前端界面和流式输出等模块的重复劳动问题。核心能力包括：用 LangGraph 定义多步推理与工具调用流程，通过 FastAPI 暴露标准化的对话与流式接口，并内置 Streamlit 聊天界面用于快速验证；同时提供会话持久化、消息历史管理、多智能体配置切换等开箱即用的能力。项目结构清晰，适合作为智能体应用的服务骨架，帮助开发者把精力集中在业务逻辑而非基础设施上。

开源 free 开发框架

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 4496

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类开发框架

开发团队JoshuaC215

所属国家

官网地址https://agent-service-toolkit.streamlit.app

GitHubhttps://github.com/JoshuaC215/agent-service-toolkit

定价模式free

价格说明开源免费，提供Streamlit在线演示

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型agents,langgraph,streamlit

GitHub 星标★ 4496

30天Star增速

HF 下载量

上线时间2024-08-04 00:00:00

最近更新2026-09-19 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-12

浏览次数0

使用教程

难度：入门约 10 分钟部署方式：Docker 7 步

环境要求

Python 环境（本地运行方式需 Python 虚拟环境）
推荐安装 uv 依赖管理工具，pip install . 亦可
Docker 与 Docker Compose v2.23.0 及以上（Docker 方式）
至少一个 LLM 模型提供商的 API Key

安装与启动步骤

1克隆代码仓库

把项目源码下载到本地并进入项目根目录，后续所有命令都在该目录执行。
```
git clone https://github.com/JoshuaC215/agent-service-toolkit.git
cd agent-service-toolkit
```
2准备环境变量

从示例文件复制出 .env，然后编辑它填入至少一个 LLM API Key，否则服务无法调用模型。
```
cp .env.example .env
```
3安装 uv 工具

README 推荐用 uv 安装依赖；若已装过可跳过，也可直接用 pip install . 替代。
```
curl -LsSf https://astral.sh/uv/0.12.5/install.sh | sh
```
4安装项目依赖

uv sync 会自动创建 .venv 虚拟环境并安装全部依赖，随后激活该虚拟环境。
```
uv sync --frozen
source .venv/bin/activate
```
5启动 Agent 服务

运行 FastAPI 服务端，保持该终端窗口不要关闭；接口将监听 8080 端口。
```
python src/run_service.py
```
6启动聊天界面

另开一个终端激活同一虚拟环境后运行 Streamlit 应用，即可获得聊天 UI。
```
streamlit run src/streamlit_app.py
```
7Docker 一键启动

按 README 推荐方式，用 watch 模式同时拉起 postgres、agent_service 与 streamlit_app 三个服务。
```
docker compose watch
```

关键配置

配置项	必填	说明	示例
`OPENAI_API_KEY`	是	LLM 模型调用密钥，至少配置一个提供商的 Key	`sk-xxxxxxxx`

如何确认成功

浏览器访问 http://localhost:8501 能看到聊天界面，API 文档 http://0.0.0.0:8080/redoc 可正常打开。

常见问题

Q：必须配置 API Key 吗？

A：是。README 明确要求至少提供一个 LLM API Key 或其他模型提供商配置，否则服务无法正常对话。

Q：没有 Docker 可以运行吗？

A：可以。使用 uv sync --frozen 安装依赖后，分别在两个终端运行 python src/run_service.py 和 streamlit run src/streamlit_app.py 即可。

Q：修改了依赖文件要怎么办？

A：若改动了 pyproject.toml 或 uv.lock，docker compose watch 不会自动生效，需要执行 docker compose up --build 重建服务。

Q：如何接入 Ollama 或 VertexAI？

A：README 提供了单独文档：Ollama 见 docs/Ollama.md，VertexAI 见 docs/VertexAI.md，按文档追加配置即可。

注意事项

Docker 方式要求 Docker Compose 版本不低于 v2.23.0。
暂不支持 uv 时可用 pip install . 安装依赖，README 明确说明同样可行。
停止 Docker 服务使用 docker compose down。
.env.example 中还有更多环境变量（认证、LangSmith 追踪等）可参考其注释配置。

核心亮点

集成 LangGraph+FastAPI+Streamlit 三层，克隆即可跑通完整对话链路
内置流式输出与消息历史持久化，省去自建会话管理
提供多智能体配置与示例，便于按业务替换或扩展节点

不足之处

偏重服务骨架，复杂生产级鉴权、限流、监控需自行补齐
Streamlit 前端仅适合演示，正式产品仍需另做前端

适用场景

快速验证基于 LangGraph 的智能体对话流程
为内部工具搭建带 API 和聊天界面的智能体服务
作为教学或原型项目学习智能体服务端架构

替代项目

LangServe、Chainlit、Streamlit

项目介绍

agent-service-toolkit 是一个开发框架领域的开源项目，官方简介：Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit。项目使用 Python 开发，在 GitHub 上获得 4482 星标。

上一篇：software-agent-sdk

下一篇：project-oagents