llm-framework
本站收录 38 个带「llm-framework」标签的 AI 开源项目
autogenAutoGen 是一个用于构建智能体(Agent)应用的编程框架,由微软推出。它解决了开发复杂多智能体协作系统时面临的编排、对话管理和工具调用难题。核心能力包括★ 61,221
PocketFlow-Tutorial-Codebase-KnowledgePocketFlow-Tutorial-Codebase-Knowledge 是一个将代码库转化为教程的开源项目,旨在解决开发者学习大型代码库时面临的入门门槛高★ 12,682
PocketFlow仅 100 行代码的极简 LLM 框架,践行「让 Agent 构建 Agent」的理念,轻量易懂,适合快速原型验证与教学。★ 11,207
langroidLangroid 是一个面向大型语言模型(LLM)的多智能体编程框架,旨在让开发者通过简洁的 Python 代码编排多个智能体协作,完成复杂任务。它解决了直接调★ 4,108
holmesgptHolmesGPT 是一个面向 SRE(站点可靠性工程)场景的开源 AI 助手,已加入 CNCF Sandbox。它通过自然语言交互,帮助运维和开发人员快速诊断★ 3,480
LLMStackLLMStack 是一个无代码的多智能体框架,旨在帮助用户基于自有数据快速构建大语言模型(LLM)智能体、工作流和应用程序。它解决了非技术人员难以将 LLM 集★ 2,308
aiciAICI(Artificial Intelligence Controller Interface)是一个开源框架,它提出了一种全新的与大语言模型交互的方式:将★ 2,076
contextgemContextGem 是一个专注于从文档中提取结构化信息的 Python 库,旨在简化 LLM 在文档解析和信息抽取任务中的使用流程。它解决了传统 LLM 提取★ 2,005
LLMCompilerLLMCompiler 是一个面向大语言模型(LLM)的函数调用并行化框架,源自 ICML 2024 论文。它借鉴传统编译器思想,将复杂的多步骤任务分解为依赖图★ 1,890
code-actcode-act 是 ICML 2024 论文的官方实现,旨在通过可执行的代码动作来提升 LLM 智能体的能力。它解决的核心问题是:传统 LLM 智能体在复杂任★ 1,705
AgentlyAgently 是一个基于 Python 的 GenAI 应用开发框架,旨在让开发者快速、轻松地构建生成式 AI 应用。它解决了与大语言模型交互时常见的复杂性和★ 1,654
kvcachedkvcached 是一个面向大语言模型推理场景的虚拟化弹性 KV 缓存管理框架,核心目标是解决多模型、多租户共享 GPU 时 KV 缓存资源利用率低、隔离性差的★ 1,509
langtraceLangtrace 是一个基于 OpenTelemetry 的开源端到端可观测性工具,专为 LLM 应用设计。它解决开发者在构建大模型应用时面临的调试难、评估难★ 1,232
tribeTribe 是一个低代码工具,用于快速构建和协调多智能体团队。它通过可视化或配置化的方式,让开发者能够轻松定义多个 AI 智能体的角色、目标和交互流程,从而解决★ 1,084
best-of-Agent-Harnesses这是一个精选并排名的AI智能体框架(Agent Harnesses)列表,收录了100多个项目,并附带MCP服务器、llms.txt和JSON数据,使智能体也能★ 1,011
FoundryFoundry 是一个面向智能体(Agent)的底层基础设施项目,定位为“智能体智能的基础层”。它提供了一套 Python 编写的智能体框架和运行时环境,旨在解★ 872
edsledsl 是一个用于设计、执行和分析 AI 驱动调查与实验的开源 Python 框架。它解决的核心问题是:传统社会科学和市场研究依赖真人样本,成本高、周期长,且★ 502
palico-aiPalico AI 是一个面向 AI 应用开发的全生命周期管理平台,旨在帮助开发者构建、优化性能并将 AI 应用推向生产环境。它解决了 AI 应用从原型到生产过★ 343
ReaLHFReaLHF 是一个面向大语言模型的高效 RLHF(基于人类反馈的强化学习)训练框架,通过参数重新分配技术显著提升训练效率。它解决了传统 RLHF 训练中计算资★ 336
craftgenCraftgen 是一个开源的、无代码的 AI 工作流集成平台,基于 Actor 模型构建动态的、基于图(graph)的解决方案。它旨在让用户无需编写代码,就能★ 317
LLMtunerLLMtuner 是一个旨在简化大语言模型微调过程的 Python 工具库,口号是“几行代码微调大模型”。它支持多种任务类型,包括文本到文本(Text2Text★ 252
SimplerLLMSimplerLLM 是一个 Python 库,旨在简化与大型语言模型的交互。它通过统一的接口封装了 OpenAI、Anthropic、Gemini、DeepS★ 223
axaraxar 是一个极简的 TypeScript 智能体框架,旨在为开发者提供简单、可控的 AI 代理构建体验。它解决了主流框架过度封装、黑盒操作的问题,让开发者能★ 164
LiteWebAgentLiteWebAgent 是一个面向 VLM(视觉语言模型)的 Web 智能体开源套件,源自 NAACL 2025 论文。它解决的核心问题是:如何让 AI 智能★ 153
aibitataibitat 是一个基于 TypeScript 的多智能体对话框架,旨在帮助开发者构建由多个 AI 代理协作完成任务的应用程序。它解决了单个 LLM 在处理复★ 151
llmllm 是一个基于 Ruby 的 AI 运行时,旨在为 Ruby 开发者提供原生的、能力完备的大语言模型集成方案。它解决了 Ruby 生态中缺乏统一、易用的 L★ 141
spelltestspelltest 是一个面向 LLM 应用的 AI-to-AI 测试与模拟框架,旨在解决大语言模型应用在开发、测试和部署过程中缺乏系统性验证手段的问题。它通过★ 138
extensionOSextensionOS 是一个基于 TypeScript 构建的浏览器扩展框架,旨在让用户直接在浏览器中访问强大的 AI 模型,包括大语言模型、生成式图像模型和★ 134
agentwatchagentwatch 是一个面向 AI 智能体的可观测性框架,旨在帮助开发者深入洞察智能体与各平台之间的交互过程。它解决了 AI 应用调试和优化中“黑盒”问题,★ 125
ai-microcoreai-microcore 是一个轻量级的 Python 库,旨在简化与大型语言模型(LLM)的交互,并帮助开发者快速构建 AI 应用。它解决了直接调用 LLM ★ 108
OpenGiraffeOpenGiraffe 是一个基于守护进程的持久化多智能体系统,利用 opencode 自动完成代码库中的代码发现、规划、实现和审查。它解决的是传统 AI 编码★ 106
swarmauri-sdkswarmauri-sdk 是一个模块化的 Python SDK 和单体仓库(monorepo),旨在为构建 AI 智能体提供一站式工具链。它解决了 AI 应用★ 104
LiteMultiAgentLiteMultiAgent 是一个基于 Python 的轻量级多智能体应用开发库,旨在简化基于大语言模型的多智能体系统的构建。它解决了开发者在构建多智能体应用★ 102
continuumContinuum 是 ShyftLabs 推出的智能体运行时,旨在帮助企业构建、编排和部署 AI 智能体。它解决了多智能体系统中任务分配、状态管理和工具调用的★ 84
SimpleLLMFuncSimpleLLMFunc 是一个以“代码为中心”和“上下文为中心”的轻量级 LLM 应用框架,核心设计理念是“LLM 即函数,提示词即代码”。它致力于解决传统★ 78
Awesome-LLMs-ICLR-24Awesome-LLMs-ICLR-24 是一个专门整理 ICLR 2024 会议上所有大语言模型(LLM)相关论文的资源合集。它解决了研究者难以系统追踪顶级会★ 72
geniusriseGeniusrise 是一个用于构建 AI 应用的 Python 框架,旨在简化从数据准备、模型训练到部署的完整流程。它解决了 AI 开发中常见的工程化痛点,如★ 62
sugarcane-aisugarcane-ai 是一个面向 Prompt 的 npm 风格包生态系统,旨在解决 Prompt 复用、管理和分发难题。它将 Prompt 视为可版本化的★ 52