litellm
本站收录 32 个带「litellm」标签的 AI 开源项目
litellmlitellm 是一个轻量级 AI 网关，核心用 Rust 编写，同时提供 Python SDK，可以统一调用 100 多种 LLM API（如 OpenAI、★ 59,873
morphik-coreMorphik Core 是一个开源的多模态检索引擎，旨在为 AI 应用提供统一的文档摄取、处理和检索能力。它解决了传统 RAG 系统中数据管道复杂、多模态支持★ 3,716
toolstools 是一个为 AI 智能体提供强大工具集的开源项目，基于 Python 构建，支持多种主流 LLM 提供商（如 Anthropic、Bedrock、Ll★ 1,303
litellm-agent-control-planelitellm-agent-control-plane 是一个用 Rust 编写的开源项目，旨在为多种 AI 智能体提供一个统一的管理和调用平台。它解决了当前 ★ 1,301
k-dense-byokk-dense-byok 是一个运行在桌面端的 AI 联合科学家，基于 Scientific Agent Skills 构建，旨在帮助科研人员加速药物发现和生物★ 1,283
prometheus-evalPrometheus-Eval 是一个用于评估大语言模型（LLM）回复质量的工具，基于 Prometheus 模型和 GPT-4 作为评判标准。它解决了 LLM★ 1,117
samplessamples 是 Strands Agents SDK 的官方示例集，展示如何基于该 SDK 构建智能体应用。它解决了开发者从零开始搭建智能体时缺乏参考实现的★ 882
agentsilexagentsilex 是一个极简、透明、可黑的智能体框架，核心代码仅约300行，完全用 Python 编写。它旨在解决现有智能体框架过于复杂、抽象层过厚、难以理★ 456
agent-builderagent-builder 是一个开源的智能体构建示例项目，旨在帮助开发者从终端快速搭建自己的 AI 代理和工具。它演示了流式输出、工具调用和交互式终端体验等核★ 428
ai-llm-comparison这是一个用于对比各类AI模型的网站，旨在帮助用户直观了解不同大语言模型的能力差异。它解决了AI模型选择困难的问题，通过统一界面展示多个模型的响应结果，让用户能快★ 424
slide-deck-aislide-deck-ai 是一个用 AI 协同创建 PowerPoint 演示文稿的开源工具，基于 Python 构建。它解决的是从零开始制作 PPT 耗时费★ 377
ccproxyccproxy 是一个面向 Claude Code 的插件化代理基础设施，允许开发者通过钩子拦截和修改 Claude Code 的 API 请求与响应，实现自定★ 346
mcp-servermcp-server 是一个为 Strands Agents 提供文档的 MCP（Model Context Protocol）服务器。它解决的核心问题是：当开★ 294
ai-gatewayai-gateway 是一个用 Go 编写的统一 AI 网关，旨在为 30 多种大语言模型（如 OpenAI、Anthropic、Bedrock、Azure 等★ 266
codex-settingscodex-settings 是一个为 Codex CLI 打造的配置与技能集合仓库，旨在通过预置的 skills、profiles 和 config 模板，让★ 242
bitrouterbitrouter 是一个上下文感知的模型路由器，专为智能体工作流设计。它持续监控和优化模型选择过程，能与任何智能体框架、任何模型和任何循环协作。核心能力包括：★ 231
docsStrands Agents SDK 的官方文档项目，基于 MDX 编写，旨在帮助开发者通过模型驱动的方式，用几行代码快速构建 AI 智能体。该项目解决了 AI★ 195
self-hosted-ai-stack这是一个基于 Docker Compose 的一站式自托管 AI 技术栈部署方案，旨在帮助用户快速搭建本地优先、隐私安全的 AI 服务集群。它集成了 Ollam★ 158
pyqt-openaipyqt-openai 是一个基于 PyQt/PySide6 构建的多功能桌面聊天机器人，支持文本对话和图像生成。它通过集成 LiteLLM 等库，兼容 Ope★ 149
ChatOpsLLMChatOpsLLM 是一个面向 LLM 运维的对话式助手平台，旨在简化大语言模型的操作与管理工作。它基于 Svelte 构建，整合了 LiteLLM、Lang★ 142
llmixllmix 是一个面向 AI 智能体和工具的 LLM 调用层，旨在解决生产环境中多模型切换、稳定性保障和成本控制的问题。它允许开发者继续使用熟悉的 OpenAI★ 132
openlegionopenlegion 是一个注重安全的自主 AI 智能体框架与平台，旨在通过自然语言描述目标来构建 AI 团队。它解决了当前 AI 智能体在安全性和多智能体协作★ 123
awesome-ai-gatewayawesome-ai-gateway 是一个聚焦 AI 网关领域的精选资源与知识库项目。它系统梳理了 LiteLLM、OpenRouter、Portkey、Ko★ 118
heronHeron 是一个基于 Rust 构建的智能体与 LLM API 性能监控工具，通过网络数据包探测的方式，在服务提供方侧部署，无需修改 SDK 即可测量 Ope★ 104
kube-llmopskube-llmops 是一个基于 Kubernetes 的 LLM 运维工具，旨在解决大语言模型应用在 Kubernetes 集群中的部署、管理和运维难题。它★ 102
Micro-AgentMicro-Agent 是一个面向垂直领域应用的轻量级 AI Agent 框架，基于 Python 构建，核心目标是降低垂域场景中智能体的开发门槛。它解决了通用★ 101
matemate 是一个基于 Google ADK 构建的生产级多智能体编排引擎，旨在解决复杂 AI 应用中多智能体的配置、调度和运维难题。它采用数据库驱动的方式管理智★ 92
litellm-pgvectorlitellm-pgvector 是一个将 LiteLLM 的请求日志与向量数据库 pgvector 集成的开源项目。它解决了 LiteLLM 默认日志存储无法★ 87
datafog-pythondatafog-python 是一个面向 AI 智能体和 LLM 应用的离线 PII（个人身份信息）防火墙。它解决的是 AI 应用在交互过程中可能泄露敏感数据的★ 75
rag-opsrag-ops 是一个基于 Python 的 RAG（检索增强生成）系统基础设施参考实现，它将 LLMOps 的核心方法论落地为可运行的代码。项目聚焦于生产级 ★ 73
binexbinex 是一个面向 AI 智能体工作流的可调试运行时，基于 Python 构建。它通过 DAG（有向无环图）管道来组织和编排智能体的执行流程，解决复杂 AI★ 62
open-claude-tagopen-claude-tag 是一个可自托管的 Slack 原生 AI 队友，作为 Claude Tag 的开源替代品，它不绑定特定 LLM，支持多种模型。该★ 18