llama_deploy

把 LlamaIndex 智能体工作流一键部署成生产级微服务

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 226 🐛 待处理 41 👀 关注 22
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 2066
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT许可证，可免费使用和部署。

项目预览

llama_deploy 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队run-llama
官网地址https://docs.llamaindex.ai/en/stable/module_guides/llama_deploy
GitHubhttps://github.com/run-llama/llama_deploy
定价模式🏷️完全免费
价格说明开源项目，MIT许可证，可免费使用和部署。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agents,deployment,framework,llamaindex,llm,multi-agents
GitHub 星标★ 2066
上线时间2024-05-29 00:00:00
代码更新2026-11-08
仓库体积7.8 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

llama_deploy 是一个用于将 agentic 工作流部署到生产环境的开源项目，由 LlamaIndex 团队开发。它解决了从原型到生产部署之间的鸿沟，让开发者能够将基于 LlamaIndex 构建的复杂智能体工作流（如多步骤推理、工具调用、状态管理）打包成可扩展、可观测的微服务。核心能力包括：声明式工作流定义、自动化的 API 端点生成、基于消息队列的任务调度、支持多实例水平扩展、内置可观测性和日志追踪。通过将工作流拆分为独立的服务组件，llama_deploy 实现了高可用性和故障隔离，使得 AI 应用能够像传统后端服务一样可靠运行。它特别适合需要将 RAG、Agent 等 AI 能力产品化的团队，提供了从代码到服务的完整部署链路。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2066

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门 约 5 分钟 部署方式：库/依赖 3 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

  • Python 环境（README 未给出具体版本要求）
  • 已有一个基于 LlamaIndex 构建的 workflow（README 未说明安装方式）
  • README 未提供任何依赖清单，需以替代项目 llama-agents 的文档为准

安装与启动步骤

  1. 1确认项目状态

    README 顶部明确标注 This project is deprecated，本项目已停止维护，不建议在新项目中使用。

  2. 2找到替代项目

    README 指向 run-llama/workflows-py（llama-agents）作为服务 workflow 的替代方案，请先访问该仓库。

  3. 3按替代项目文档部署

    llama_deploy 的 README 未包含任何安装命令、端口或配置说明，部署步骤需完全参考替代项目文档。

如何确认成功

README 未提供启动命令或健康检查方式，无法验证；请以替代项目的文档说明为准。

常见问题

Q：llama_deploy 还能用吗？

A：README 明确标注该项目已废弃（deprecated），不再推荐使用，作者建议改用 llama-agents（run-llama/workflows-py）来服务 workflow。

Q：为什么没有安装步骤？

A：该仓库 README 目前只剩废弃声明和替代项目链接，没有保留 pip、docker 等任何安装说明，因此无法据实给出可执行命令。

Q：原项目地址还在吗？

A：在，仓库地址仍为 https://github.com/run-llama/llama_deploy ，官网文档位于 docs.llamaindex.ai 的 llama_deploy 模块页，但内容可能已过时。

Q：新项目该用哪个仓库？

A：使用 README 中给出的 https://github.com/run-llama/workflows-py （llama-agents）。

注意事项

  • 本项目已被官方标记为废弃，不要再基于它搭建新的生产部署。
  • README 中没有出现任何可复制的安装或运行命令，本文档未编造包名与参数。
  • 迁移前建议先评估现有 LlamaIndex workflow 与 llama-agents 的接口差异。
  • 官网文档地址可能仍指向旧内容，请以替代仓库的 README 为准。

核心亮点

  • 原生集成 LlamaIndex，无需改造现有工作流代码即可部署
  • 提供声明式 API 和自动生成端点，显著降低部署复杂度
  • 内置消息队列和水平扩展能力，支持高并发生产环境

不足之处

  • 与 LlamaIndex 强绑定，迁移到其他框架成本较高
  • 文档和社区生态仍在成长，部分高级配置缺乏示例

适用场景

  • 将 RAG 问答系统部署为可对外服务的 API
  • 生产环境运行多步骤 Agent 工作流（如自动客服）
  • 需要水平扩展和任务队列的 AI 后端服务

替代项目

LangServe、Ray Serve、BentoML

上一篇：beelzebub

下一篇：tokencost

同类项目推荐

ccs 开源

一个命令行搞定所有 AI 账号和模型切换

Switch between Claude accounts, Gemini, Copilot, OpenRouter (300+ models) via CLIPro···

★ 2897 2026-08-09
floe-guard 开源

给语音代理装上费用闸门，超支自动叫停

AI Initiative Ledger — local spend meter and budget gate for AI tasks. Meters every···

★ 288 2026-08-20
platform 开源

把 AI 智能体从笔记本搬到 K8s，企业级管控一步到位

Agyn is an open-source Kubernetes-native runtime that moves AI agents like Claude Co···

★ 242 2026-08-09
mlplatform-workshop 开源

用示例代码快速搭建机器学习平台骨架

Example code for a basic ML Platform based on Pulumi, FastAPI, DVC, MLFlow and more

★ 444 2026-08-09
OmniKey-AI-Unified-Key-Manager 开源

统一管理多平台 LLM 密钥，自动故障转移，调用更稳更省心。

A self-hosted LLM proxy and failover gateway supporting OpenAI & Gemini compatible e···

★ 134 2026-08-09
luminal 开源

Rust 写的轻量推理引擎，模型跑得更快更省

Inference at the speed of light.

★ 3045 2026-11-08
gptGrok2api 开源

批量注册 ChatGPT/Grok 账号，自动转成 API 网关

ChatGPT/GPT 注册机｜Grok 注册机｜全自动纯协议注册，支持 OAuth、邮箱接码、账号池、代理···

★ 288 2026-08-09
gemini-web-to-api 开源

把 Gemini 网页版变成标准 API，一键接入现有 AI 应用

✨Reverse-engineered API for Gemini web app. It can be used as a genuine API key fro···

★ 641 2026-08-09
databend 开源

一份数据在 S3 上同时做分析、搜索和 AI，不用搬来搬去

Data Agent Ready Warehouse : One for Analytics, Search, AI, Python Sandbox. — reb···

★ 9493 2026-10-11