llm-use

编排多模型智能体,规划执行一步到位

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 7 👀 关注 1
GitHub ↗
GitHub 星标 ★ 59
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

llm-use 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队llm-use
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ab-testing,ai-orchestration,anthropic,api-gateway,artificial-intelligence,claude,cost-optimization,fastapi,gpt-5,groq,langchain,llm,llm-router,llmops,monitoring,openai,python,streaming
GitHub 星标★ 59
上线时间2025-10-07 00:00:00
代码更新2026-02-07
仓库体积158 KB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

llm-use 是一个面向智能体工作流的 LLM 编排工具包,采用“规划器 + 执行器 + 综合器”的架构模式,将复杂任务拆解为可管理的子任务并汇总结果。它内置可选的路由器,结合 LLM 决策与学习型回退机制,提升任务分配的鲁棒性。项目支持 OpenAI、Anthropic、Ollama、llama.cpp 等多种主流模型后端,方便用户灵活切换。同时提供真实的网页抓取功能并带有缓存,减少重复请求。集成 MCP 服务器,可扩展外部工具调用。此外,还附带一个 TUI 聊天界面,方便交互式使用。整体上,llm-use 旨在简化多步骤、多模型协作的智能体开发,解决流程编排和工具集成的痛点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 59

核心亮点

  • 清晰的 planner-workers-synthesis 架构,降低复杂工作流搭建门槛
  • 内置路由器支持 LLM 决策与学习型回退,提升任务分配可靠性
  • 集成真实网页抓取与缓存,减少重复请求,节省成本

不足之处

  • 项目处于早期阶段,文档和社区支持有待完善
  • 功能模块较多,但缺乏实际案例验证其稳定性

适用场景

  • 构建多步骤研究助手,自动收集并综合信息
  • 开发需要动态规划任务的智能体应用
  • 在本地模型与云端模型间灵活切换的混合推理场景

替代项目

LangChain、AutoGen、CrewAI

同类项目推荐

maestro 开源

编排多个LLM,让复杂AI工作流自动跑起来

Open-source Fugu: the open-source LLM orchestration brain.

★ 67 2026-08-09
uralicNLP 开源

冷门语言也能做NLP,FST加LLM双引擎

An NLP library for Uralic languages such as Finnish, Skolt Sami, Moksha and so on. A···

★ 101 2026-09-27
rig 开源

用 Rust 快速搭建可靠、可扩展的 LLM 应用

⚙️ Build modular and scalable LLM Applications in Rust

★ 9100 2026-08-09
llama-cookbook 开源

跟着官方菜谱,快速上手 Llama 模型开发

Welcome to the Llama Cookbook! This is your go to guide for Building with Llama: Get···

★ 18586 2026-08-09
agentic-rag 开源

用Redis+Bedrock+LlamaIndex搭建能自主检索的智能RAG系统

Complete example of how to build an Agentic RAG architecture with Redis, Amazon Bedr···

★ 102 2026-08-09
llm-apps-java-spring-ai 开源

用 Java 和 Spring AI 快速构建 LLM 应用,从示例到实战。

Samples showing how to build Java applications powered by Generative AI and LLMs usi···

★ 786 2026-08-09
agentic 开源

按框架约定快速搭出能干活的 AI Agent

An opinionated framework for building sophisticated AI Agents

★ 137 2026-10-13
koishi 开源

一套代码,让机器人无缝连接所有聊天平台。

Cross-platform chatbot framework made with love

★ 6317 2026-08-09
langcorn 开源

把 LangChain 应用一键变成 API 服务,快速上线

⛓️ Serving LangChain LLM apps and agents automagically with FastApi. LLMops

★ 940 2026-08-09