llmops 第 2 页

本站收录 233 个带「llmops」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 5 页）

cube-studiocube-studio 是一个基于云原生的开源 AI 平台，旨在统一管理机器学习、深度学习及大模型的完整生命周期。它解决企业在算法开发、训练、部署和运维中的碎片★ 2,561bionic-gptBionic GPT 是一个本地部署的 ChatGPT 替代品，旨在让企业安全地使用生成式 AI，同时确保数据严格保密。它基于 Rust 构建，提供与 Chat★ 2,397uptrainUpTrain 是一个开源的统一平台，用于评估和改进生成式 AI 应用。它提供 20 多种预配置检查项，覆盖语言、代码、嵌入等场景，可为 LLM 输出打分，并对★ 2,367nextpynextpy 是一个自称“来自未来的自修改框架”，主打“世界首个 AMS（自适应模型系统）”。它基于 Python，核心思路是让 AI 模型在运行时能动态调整自★ 2,349LLMStackLLMStack 是一个无代码的多智能体框架，旨在帮助用户基于自有数据快速构建大语言模型（LLM）智能体、工作流和应用程序。它解决了非技术人员难以将 LLM 集★ 2,310envdenvd 是一个面向人类和 AI 代理的可复现开发环境管理工具。它解决了开发环境配置不一致、依赖管理复杂、环境迁移困难等痛点，通过声明式配置文件和容器化技术，让★ 2,240future-agiFuture AGI 是一个开源的端到端平台，用于评估、观测和优化 LLM 及 AI 智能体应用。它集成了追踪、评测、模拟、数据集管理、网关和护栏等核心功能，帮★ 2,180mcp-routermcp-router 是一个统一的 MCP（Model Context Protocol）服务器管理应用，旨在解决 MCP 服务器数量增多后难以统一配置、监控和★ 2,135aiciAICI（Artificial Intelligence Controller Interface）是一个开源框架，它提出了一种全新的与大语言模型交互的方式：将★ 2,076waku-agentWaku agent 是一个本地优先的个人 AI 智能体框架，用 Python 编写，代码量少到可以在一个下午读完。它由四个核心模块组成：harness（运行环★ 2,060VectorChordVectorChord 是一个基于 Postgres 的向量检索扩展，是 pgvecto.rs 的继任者。它旨在解决 Postgres 中向量搜索扩展在数据量大★ 1,826paddlerpaddler 是一个用 Rust 编写的开源 LLM/VLM 负载均衡与服务平台，专为自托管大语言模型和多模态模型的大规模部署而设计。它围绕 ggml 生态构★ 1,680AgentlyAgently 是一个基于 Python 的 GenAI 应用开发框架，旨在让开发者快速、轻松地构建生成式 AI 应用。它解决了与大语言模型交互时常见的复杂性和★ 1,659better-agentsbetter-agents 是一个为构建 AI 智能体提供标准化规范和工具链的开源项目，主要面向开发者社区。它致力于解决智能体开发中缺乏统一标准、测试困难和调试★ 1,560TracelyTracely 是一个面向 AI 智能体的原生 CI/CD 工具，旨在解决 LLM 应用在生产环境中失败后难以复现和回归测试的问题。它能自动检测生产环境中的 A★ 1,539Tracely-aiTracely-ai 是一个面向 AI 代理（agent）的 CI/CD 原生可观测与评测工具，旨在解决 AI 应用在生产环境中出现故障后难以复现和回归测试的问★ 1,537rebuffRebuff 是一个专注于检测和防御大语言模型提示注入攻击的开源工具。它解决的是 LLM 应用面临的安全问题，即恶意用户通过精心构造的输入提示，诱导模型执行非预★ 1,530rtp-llmRTP-LLM是阿里巴巴开源的高性能大语言模型推理引擎，旨在为多样化的应用场景提供低延迟、高吞吐的推理服务。它解决了LLM在生产环境中部署时面临的性能瓶颈和资源★ 1,365kusionKusion 是一个声明式、意图驱动的平台编排器，专为内部开发者平台（IDP）设计。它帮助平台工程团队以代码方式定义和管理基础设施、应用配置及策略，解决传统运维★ 1,323sreSmythOS Runtime Environment (SRE) 是一个开源的云原生运行时，专为智能体（Agentic AI）设计。它解决了开发者在本地、云端★ 1,303openinferenceOpenInference 是一个面向 AI 应用的可观测性开源项目，基于 OpenTelemetry 标准构建。它解决的是 AI 应用（如 LLM 应用、Ag★ 1,272intellagentIntellAgent 是一个面向智能体（Agent）的全面诊断与优化框架。它通过模拟真实场景下的合成交互数据，帮助开发者系统性地评估和调优基于大语言模型的智能★ 1,260langtraceLangtrace 是一个基于 OpenTelemetry 的开源端到端可观测性工具，专为 LLM 应用设计。它解决开发者在构建大模型应用时面临的调试难、评估难★ 1,235awesome-ai-sdks这是一个精选资源列表，汇总了用于创建、监控、调试和部署自主AI智能体的SDK、框架、库和工具。它解决了AI开发者在构建复杂智能体时，面对工具碎片化、选型困难的问★ 1,233intelligent-audit-systemAuditPilot 是一个面向企业的可审计 AI 智能体系统，旨在解决 AI 在关键业务流程中缺乏透明度、可控性和合规性的问题。它提供了一套完整的框架，让企业★ 1,173DataDreamerDataDreamer 是一个专注于合成数据生成与模型训练对齐的开源 Python 库。它解决的核心问题是：在真实数据稀缺或受隐私限制时，如何通过提示词（Pro★ 1,126prometheus-evalPrometheus-Eval 是一个用于评估大语言模型（LLM）回复质量的工具，基于 Prometheus 模型和 GPT-4 作为评判标准。它解决了 LLM★ 1,121dynamiqDynamiq 是一个面向智能体 AI 和 LLM 应用的编排框架，旨在解决构建复杂 AI 工作流时的集成与调度难题。它提供了一套统一的工具来定义、执行和监控多★ 1,071llm.reportllm.report 是一个开源的 OpenAI API 日志与分析平台，专门用于记录 ChatGPT API 请求、分析成本并优化提示词。它解决了开发者在调用★ 1,020lanarkylanarky 是一个面向 LLM 微服务的 Python Web 框架，现已标记为废弃。它旨在简化基于大语言模型的应用开发，提供流式响应、中间件、插件等能力，★ 986langcornlangcorn 是一个将 LangChain 应用和智能体自动封装为 FastAPI 服务的工具，旨在简化 LLM 应用的部署和运维。它解决了 LangCha★ 941llm-pythonllm-python 是一个面向开发者的 LLM 教程与示例脚本集合，主要使用 Jupyter Notebook 编写，涵盖 LangChain、OpenAI、★ 930motorheadMotorhead 是一个专为大型语言模型（LLM）设计的记忆与信息检索服务器，用 Rust 编写。它解决了 LLM 在对话中缺乏长期记忆的问题，为开发者提供了★ 916NeumAINeumAI 是一个专注于大规模向量嵌入创建与同步的框架，旨在解决 RAG（检索增强生成）应用中数据管道复杂、难以维护的痛点。它提供了一套声明式配置，让开发者能★ 868cv-santiagocv-santiago 是一个将个人简历与 AI 聊天功能结合的开源项目，基于 React 19、TypeScript 和 Claude API 构建。它解决的★ 859osos 是一个面向企业组织的开源 AI 智能体平台，目标是让团队快速创建并部署可定制的 AI 助手。它支持接入多家大语言模型提供商，避免被单一厂商锁定；提供实时聊★ 821swiftideswiftide 是一个基于 Rust 的流式索引、查询与智能体 LLM 应用框架。它旨在解决构建 LLM 应用时数据管道复杂、性能瓶颈和开发效率低的问题。核心★ 794openagentOpenAgent 是一个面向垂直行业 AI 智能体构建的开源平台，旨在融合 OpenAI Deep Research 的深度推理能力与 Dify 的可视化工作★ 778agentacctagentacct 是一个面向 AI 编程代理的本地优先观测与成本分析工具。它解决了开发者无法清晰了解 Claude Code、Codex、OpenCode 等★ 767contoso-chatcontoso-chat 是一个端到端的 RAG（检索增强生成）应用示例，基于 Prompty 和 Azure AI Foundry 构建。它演示了如何从零开始★ 766llm-booksllm-books 是一个以实践笔记形式组织的开源项目，旨在帮助开发者系统性地学习和构建基于大语言模型（LLM）的应用。它并非一个现成的框架或工具库，而是一份结★ 764llm-resourcellm-resource 是一个精选的 LLM（大语言模型）全栈资源汇总项目，以 Shell 脚本维护的清单形式，系统整理了从模型、训练、推理、部署到应用开发的★ 727llmflowsLLMFlows 是一个用于构建大型语言模型（LLM）应用的 Python 框架，强调简单、明确和透明。它解决了 LLM 应用开发中常见的复杂性和不可控性问题，★ 708ai-engineer-notebooks这是一个面向AI工程师和前沿部署工程师（FDE）的实战型Jupyter Notebook合集，完全基于免费Groq API运行，无需框架依赖。项目覆盖了从模型A★ 706otariotari 是一个开源的、兼容 OpenAI API 的 LLM 网关，你可以自行部署。它提供了一个统一的 API 端点，用于接入 40 多家 LLM 提供商（★ 703trinityTrinity 是一个可自托管的 AI 智能体平台，目标是把 Claude Code、Codex、Gemini 等不同厂商的编码智能体统一到一个运行与治理层中。★ 682overmindOvermind 是一个面向 AI Agent 的持续改进平台，核心目标是解决 Agent 上线后效果难以量化、迭代缺乏依据的问题。它把评测（evals）、可观★ 669END-TO-END-GENERATIVE-AI-PROJECTS这是一个汇集端到端生成式AI行业项目的开源仓库，专注于大语言模型（LLM）的完整落地流程，从数据准备、模型微调、推理优化到部署上线。项目旨在为开发者提供可直接参★ 639LynkrLynkr 是一个命令行工具，充当 HTTP 代理，专门用于优化 Claude Code CLI 的代码交互流程。它解决了开发者在与 AI 编程助手交互时，网络★ 635gatewaygateway 是一个完全本地化的生产级超级 SDK，为调用 200 多个大型语言模型提供简单、统一且强大的接口。它解决了企业在集成多家 LLM 时面临的接口碎★ 607

相关标签

llm3432ai2792mlops445openai1221python1570ai-agents1975rag1205generative-ai568llms394mcp1424langchain393machine-learning904