把 LlamaIndex 智能体工作流一键部署成生产级微服务
llama_deploy 是一个用于将 agentic 工作流部署到生产环境的开源项目，由 LlamaIndex 团队开发。它解决了从原型到生产部署之间的鸿沟，让开发者能够将基于 LlamaIndex 构建的复杂智能体工作流（如多步骤推理、工具调用、状态管理）打包成可扩展、可观测的微服务。核心能力包括：声明式工作流定义、自动化的 API 端点生成、基于消息队列的任务调度、支持多实例水平扩展、内置可观测性和日志追踪。通过将工作流拆分为独立的服务组件，llama_deploy 实现了高可用性和故障隔离，使得 AI 应用能够像传统后端服务一样可靠运行。它特别适合需要将 RAG、Agent 等 AI 能力产品化的团队，提供了从代码到服务的完整部署链路。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1确认项目状态
README 顶部明确标注 This project is deprecated，本项目已停止维护，不建议在新项目中使用。
2找到替代项目
README 指向 run-llama/workflows-py（llama-agents）作为服务 workflow 的替代方案，请先访问该仓库。
3按替代项目文档部署
llama_deploy 的 README 未包含任何安装命令、端口或配置说明，部署步骤需完全参考替代项目文档。
README 未提供启动命令或健康检查方式，无法验证；请以替代项目的文档说明为准。
Q：llama_deploy 还能用吗？
A：README 明确标注该项目已废弃（deprecated），不再推荐使用，作者建议改用 llama-agents（run-llama/workflows-py）来服务 workflow。
Q：为什么没有安装步骤？
A：该仓库 README 目前只剩废弃声明和替代项目链接，没有保留 pip、docker 等任何安装说明，因此无法据实给出可执行命令。
Q：原项目地址还在吗？
A：在，仓库地址仍为 https://github.com/run-llama/llama_deploy ，官网文档位于 docs.llamaindex.ai 的 llama_deploy 模块页，但内容可能已过时。
Q：新项目该用哪个仓库？
A：使用 README 中给出的 https://github.com/run-llama/workflows-py （llama-agents）。
LangServe、Ray Serve、BentoML
llama_deploy 是基础设施领域的开源项目，由 run-llama 开发，2024 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（2,069）位列前 30%，在基础设施分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。MIT许可证，可免费使用和部署。
它主要面向的使用场景是：将RAG问答系统部署为可对外服务的API。同类可对比的替代方案包括 LangServe、Ray Serve、BentoML。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
