llmflows

像画流程图一样构建 LLM 应用,每一步都清晰可控。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 35 🐛 待处理 19 👀 关注 10
GitHub ↗
GitHub 星标 ★ 709
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

llmflows 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队stoyan-stoyanov
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,chatgpt,gpt-4,llm,llm-inference,llmops,llms,machine-learning,openai,prompt-engineering,python,question-answering,vector-database
GitHub 星标★ 709
上线时间2023-06-26 00:00:00
代码更新2025-02-20
仓库体积37.0 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

LLMFlows 是一个用于构建大型语言模型(LLM)应用的 Python 框架,强调简单、明确和透明。它解决了 LLM 应用开发中常见的复杂性和不可控性问题,通过提供显式的数据流图和清晰的执行流程,让开发者能够精确控制提示词、模型调用和输出处理。核心能力包括:基于数据流的应用编排,支持链式调用和并行执行;内置提示词模板和变量管理;提供详细的执行日志和调试信息,增强应用的可观测性;支持与主流 LLM(如 OpenAI)集成,并预留了扩展接口。它适合需要精细控制 LLM 行为的开发者,帮助构建可维护、可测试的 LLM 应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 709

使用教程

难度:入门 约 25 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.9+
  • 任一模型服务的 API Key

安装与启动步骤

  1. 1安装框架

    纯 Python 包,没有额外系统依赖,虚拟环境里装完就能导入。

    pip install llmflows
  2. 2配置模型密钥

    框架本身不带模型,密钥通过环境变量注入,代码里只引用变量名,别写死在仓库里。

    export OPENAI_API_KEY=sk-xxx
  3. 3定义 FlowStep

    一个 FlowStep 就是一次模型调用加一段提示词模板,输入输出用字典串起来。

  4. 4串成 Flow 并运行

    把多个 Step 按顺序接起来跑一遍,跑通后再加分支和并行。

    python flow_demo.py

如何确认成功

导入 llmflows 不报错,Flow 跑完后能拿到各 Step 的输出字典

注意事项

  • 文档在 readthedocs,版本迭代较快,注意对照当前版本的 API。
  • Step 之间的键名必须严格一致,拼错不会报错但会传空值。

核心亮点

  • 显式数据流设计,应用逻辑一目了然,易于调试和维护
  • 内置提示词模板与变量管理,减少重复代码
  • 提供详细执行日志,方便追踪每次 LLM 调用

不足之处

  • 项目早期,文档和社区生态待完善
  • 主要支持 OpenAI,其他模型集成需自行扩展

适用场景

  • 需要精细控制提示词和模型调用的 LLM 应用开发
  • 构建多步骤、可观测的 LLM 工作流(如数据处理、内容生成)
  • 教学或原型验证,快速搭建清晰的 LLM 应用结构

替代项目

LangChain、LlamaIndex、Haystack

上一篇:geniusrise

下一篇:sugarcane-ai

同类项目推荐

ten-framework 开源

像搭积木一样组装实时语音AI助手

Open-source framework for conversational voice AI agents

★ 11224 2026-09-12
Awesome-Context-Engineering 开源

一站式掌握上下文工程,从入门到生产级AI系统

Comprehensive survey on Context Engineering: from prompt engineering to production-g···

★ 3339 2026-08-09
chatto 开源

用 Go 快速搭建状态机驱动的聊天机器人

Chatto is a minimal chatbot framework in Go.

★ 115 2026-08-09
llm-agents.nix 开源

用 Nix 一键装齐 AI 编程代理,版本锁定每天自动更新

Nix packages for AI coding agents and development tools. Automatically updated daily···

★ 2259 2026-09-16
agf 开源

一个终端命令,找回所有 AI 助手的聊天记录

Find, search, and resume local AI coding-agent sessions across Muse Code, Claude Cod···

★ 163 2026-08-09
Agent_Memory_Techniques 开源

30个可运行Notebook,让LLM智能体拥有长期记忆

Agent memory for LLMs: 30 runnable Jupyter notebooks covering conversation buffers, ···

★ 1138 2026-08-09
any-llm 开源

一个接口搞定所有大模型,切换模型不费劲

Communicate with an LLM provider using a single interface

★ 2249 2026-08-09
django-ai-assistant 开源

在 Django 里快速接入 AI 助手,省去重复造轮子

Integrate AI Assistants with Django to build intelligent applications

★ 430 2026-08-09