promptflow

从原型到监控,一站式搞定 LLM 应用开发全流程。

PromptFlow 是微软开源的一套 LLM 应用全生命周期开发工具,覆盖从原型设计、测试评估到生产部署与监控的完整流程。它解决的核心问题是 LLM 应用开发中缺乏标准化流程、调试困难、评估主观、部署复杂等痛点。核心能力包括:基于流程图的可视化编排,允许开发者将 Prompt、Python 代码和工具节点组合成可执行的流;提供多种评估指标(如准确率、相关性)对应用质量进行量化测试;支持一键部署到 Azure AI 等云平台,并集成了监控与日志功能。它支持与 LangChain、Semantic Kernel 等框架集成,并提供了丰富的内置工具和连接器,帮助团队以工程化方式交付可靠的 AI 应用。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 11244
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队microsoft
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,ai-application-development,ai-applications,chatgpt,gpt,llm,prompt,prompt-engineering
GitHub 星标★ 11244
30天Star增速
HF 下载量
上线时间2023-06-30 00:00:00
最近更新2026-09-22 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 7 步

环境要求

  • 本地已安装 Python,推荐版本 >=3.9 且 <=3.11
  • 可用的 OpenAI API Key(或 Azure OpenAI 的 Key 与 Endpoint)
  • 能访问 PyPI 以安装 promptflow 相关包

安装与启动步骤

  1. 1准备 Python 环境

    确认本机 Python 版本在 3.9 到 3.11 之间,README 推荐该区间,版本过高或过低可能装不上。

  2. 2安装 promptflow

    在本地环境安装 promptflow 主包与官方工具包 promptflow-tools,这是后续所有 pf 命令的基础。

    pip install promptflow promptflow-tools
  3. 3初始化聊天流

    用 chat 模板生成示例流,命令会创建 my_chatbot 目录并生成所需文件。

    pf flow init --flow ./my_chatbot --type chat
  4. 4创建 OpenAI 连接

    为 API Key 建立名为 open_ai_connection 的连接,用 --set 直接传 key 可避免改 yaml 文件。

    pf connection create --file ./my_chatbot/openai.yaml --set api_key=sk-xxxxxxxx --name open_ai_connection
  5. 5创建 Azure 连接

    若用 Azure OpenAI,改用 azure_openai.yaml 并额外传 api_base;连接名同样为 open_ai_connection。

    pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key=sk-xxxxxxxx api_base=https://your-resource.openai.azure.com/ --name open_ai_connection
  6. 6交互式测试流

    进入对话测试模式,输入消息即可与聊天机器人交互,按 Ctrl+C 结束会话。

    pf flow test --flow ./my_chatbot --interactive
  7. 7关闭遥测(可选)

    遥测收集默认开启,如不希望上报数据,执行该命令关闭。

    pf config set telemetry.enabled=false

关键配置

配置项必填说明示例
api_key是OpenAI 或 Azure OpenAI 的访问密钥sk-xxxxxxxx
api_base否Azure OpenAI 的服务地址,仅 Azure 连接需要https://your-resource.openai.azure.com/
open_ai_connection是chat 节点引用的连接名,需与创建时 --name 一致open_ai_connection
deployment_name否flow.dag.yaml 中指定使用的模型或部署资源gpt-35-turbo
telemetry.enabled否是否上报遥测数据,默认开启false

如何确认成功

运行 pf flow test --flow ./my_chatbot --interactive 后出现交互提示,输入消息能收到模型回复即为成功。

常见问题

Q:pip install 报错或提示找不到包?

A:先确认 Python 版本在 3.9~3.11 之间,并检查网络能否访问 PyPI;也可按 README 用 GitHub Codespaces 预置环境体验。

Q:没有 Azure OpenAI,只有普通 OpenAI Key 怎么办?

A:使用 my_chatbot 目录下的 openai.yaml 创建连接即可,无需 api_base 参数。

Q:想换用别的模型怎么改?

A:在 my_chatbot/flow.dag.yaml 的 chat 节点中修改 deployment_name 字段,指向你要用的 OpenAI 模型或 Azure 部署名。

Q:如何关闭数据遥测?

A:执行 pf config set telemetry.enabled=false,遥测默认开启。

Q:交互测试怎么退出?

A:在 pf flow test 交互会话中按 Ctrl + C 即可结束。

注意事项

  • 连接名必须与 flow.dag.yaml 中 chat 节点引用的 open_ai_connection 保持一致。
  • 推荐用 --set 传入密钥,避免直接修改 yaml 文件导致密钥泄露。
  • 遥测收集默认开启,介意隐私请在首次使用后关闭。
  • README 也提供 GitHub Codespaces 预置开发环境,可跳过本地安装步骤。

核心亮点

  • 可视化流程图编排,降低 LLM 应用搭建门槛,便于理解和维护。
  • 内置评估与测试框架,支持批量跑分和指标对比,让质量可量化。
  • 与 Azure AI 深度集成,部署、监控、日志开箱即用,生产友好。

不足之处

  • 文档偏工程化,对新手不够友好,上手曲线较陡。
  • 部分高级功能依赖 Azure 生态,本地或非微软云环境体验受限。

适用场景

  • 企业内部构建客服问答机器人,需要快速迭代和效果评估。
  • AI 应用开发团队需要标准化流程,从实验到生产交付。
  • 需要将多个 Prompt 和工具链组合成复杂工作流的场景。

替代项目

LangChain、Semantic Kernel、Flowise

项目介绍

promptflow 是开发框架领域的开源项目,由 microsoft 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(11,244)位列前 5%,在开发框架分类的 803 个项目里位列前 6%。

近 41 天,它的 GitHub 星标从 11,219 增加到 11,244,净增 25。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-22。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:企业内部构建客服问答机器人,需要快速迭代和效果评估。同类可对比的替代方案包括 LangChain、Semantic Kernel、Flowise。

上一篇:generative_ai_with_langchain

下一篇:chainlit

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12