llm-use

编排多模型智能体,规划执行一步到位

llm-use 是一个面向智能体工作流的 LLM 编排工具包,采用“规划器 + 执行器 + 综合器”的架构模式,将复杂任务拆解为可管理的子任务并汇总结果。它内置可选的路由器,结合 LLM 决策与学习型回退机制,提升任务分配的鲁棒性。项目支持 OpenAI、Anthropic、Ollama、llama.cpp 等多种主流模型后端,方便用户灵活切换。同时提供真实的网页抓取功能并带有缓存,减少重复请求。集成 MCP 服务器,可扩展外部工具调用。此外,还附带一个 TUI 聊天界面,方便交互式使用。整体上,llm-use 旨在简化多步骤、多模型协作的智能体开发,解决流程编排和工具集成的痛点。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 58
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队llm-use
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ab-testing,ai-orchestration,anthropic,api-gateway,artificial-intelligence,claude,cost-optimization,fastapi,gpt-5,groq,langchain,llm,llm-router,llmops,monitoring,openai,python,streaming
GitHub 星标★ 58
30天Star增速
HF 下载量
上线时间2025-10-07 00:00:00
最近更新2026-09-10 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

核心亮点

  • 清晰的 planner-workers-synthesis 架构,降低复杂工作流搭建门槛
  • 内置路由器支持 LLM 决策与学习型回退,提升任务分配可靠性
  • 集成真实网页抓取与缓存,减少重复请求,节省成本

不足之处

  • 项目处于早期阶段,文档和社区支持有待完善
  • 功能模块较多,但缺乏实际案例验证其稳定性

适用场景

  • 构建多步骤研究助手,自动收集并综合信息
  • 开发需要动态规划任务的智能体应用
  • 在本地模型与云端模型间灵活切换的混合推理场景

替代项目

LangChain、AutoGen、CrewAI

项目介绍

llm-use 是开发框架领域的开源项目,由 llm-use 开发,2025 年首次发布。

它收录于开发框架分类,该分类目前共有 803 个项目,GitHub 星标数为 58。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-10。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:构建多步骤研究助手,自动收集并综合信息。同类可对比的替代方案包括 LangChain、AutoGen、CrewAI。

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12