deployment
本站收录 24 个带「deployment」标签的 AI 开源项目
rayRay 是一个面向 AI 计算的分布式引擎，由核心分布式运行时和一组 AI 库组成，用于加速机器学习工作负载。它解决了大规模分布式训练、调参、推理和服务部署中的★ 43,949
agents-towards-production这是一个面向生产环境的生成式AI智能体端到端实战教程项目，旨在帮助开发者将智能体从原型快速推进到企业级部署。项目采用代码优先的方式，提供了一系列完整的Jupyt★ 21,513
inferenceXinference 是一个统一推理引擎，旨在解决多模型部署与调用碎片化问题。它允许开发者通过修改一行代码，将 GPT 替换为任何开源大语言模型、语音模型或多模★ 9,593
seldon-coreSeldon Core 是一个用于打包、部署、监控和管理生产环境中机器学习模型的开源 MLOps 框架。它解决了将训练好的模型（如 TensorFlow、PyT★ 4,782
inferenceinference 是一个将任何计算机或边缘设备转变为计算机视觉项目指挥中心的开源工具。它解决了视觉模型从开发到生产部署的复杂性问题，提供统一的推理 API，支★ 2,462
langserveLangServe 是 LangChain 官方推出的一个开源工具，用于将 LangChain 构建的 LLM 应用（如链、代理、检索器等）快速部署为 REST★ 2,327
llama_deployllama_deploy 是一个用于将 agentic 工作流部署到生产环境的开源项目，由 LlamaIndex 团队开发。它解决了从原型到生产部署之间的鸿沟，★ 2,068
nndeploynndeploy 是一款专注于 AI 模型部署的 C++ 框架，旨在解决深度学习模型从训练到生产环境落地时面临的碎片化问题。它提供统一的推理接口，屏蔽了不同后端★ 1,882
budgetmlbudgetml 是一个面向预算有限场景的机器学习推理服务部署工具，旨在让开发者用不到 10 行代码就能将模型部署为可用的推理服务。它解决了传统 ML 部署中配★ 1,344
kusionKusion 是一个声明式、意图驱动的平台编排器，专为内部开发者平台（IDP）设计。它帮助平台工程团队以代码方式定义和管理基础设施、应用配置及策略，解决传统运维★ 1,322
athenaAthena 是一个基于序列到序列（seq2seq）架构的开源语音处理引擎，专注于语音识别（ASR）和语音合成（TTS）两大核心任务。它采用 C++ 实现，提供★ 967
hands-on-train-and-deploy-ml这是一个端到端的机器学习项目实战教程，旨在帮助开发者用10个步骤完成从模型训练到部署的完整流程。项目以加密货币价格预测为示例，展示了如何构建一个ML REST ★ 891
LightCompressLightCompress 是一个面向大模型压缩的开源工具包，由 EMNLP 2024 和 AAAI 2026 论文支撑，支持对 LLM（大语言模型）、VLM（★ 749
rultorRultor 是一个 DevOps 团队助手，以聊天机器人的形式集成到 GitHub 中，帮助开发团队自动完成代码合并、部署和发布流程。它解决了传统 CI/CD★ 574
governGovern 是一个基于 GitHub Actions 的 AI 治理与合规门禁工具，核心是让开发团队在 CI/CD 流程中对关键步骤（如部署、发布、基础设施变★ 264
kedro-mlflowkedro-mlflow 是一个 Kedro 插件，旨在将 MLflow 的机器学习生命周期管理能力无缝集成到 Kedro 数据管道项目中。它解决了 Kedro★ 236
keras-sd-servingkeras-sd-serving 是一个展示如何将基于 Keras 的 Stable Diffusion 模型部署为服务的开源项目。它主要解决 Keras 生态★ 112
open-forgeopen-forge 是一个面向 AI 编码代理的自托管部署工具，旨在让 AI 代理自动完成开源应用的部署流程。它提供了 2200+ 经过验证的部署配方，覆盖从★ 97
agent-pack-n-goagent-pack-n-go 是一个用于快速迁移 OpenClaw AI 代理的开源命令行工具。它解决了用户在新设备上重新配置和部署 AI 代理的痛点，通过自★ 92
ai-ml-roadmap这是一个面向2025年AI和机器学习初学者的学习路线图项目，旨在提供从基础到进阶的系统化学习路径。它解决了初学者面对海量AI/ML资源时不知从何入手、学习路径不★ 90
swarms-cloudswarms-cloud 是一个面向自主智能体（Agent）的生产级部署平台，旨在解决将 AI 智能体从原型推向真实业务环境时面临的稳定性、扩展性和运维难题。它★ 57
full-stack-on-prem-cv-mlops这是一个面向计算机视觉的全栈本地化MLOps系统，旨在通过一条配置和一个命令，将Jupyter Notebook中的模型快速部署到生产环境，服务数百万用户。它覆★ 56
HuggingClawHuggingClaw 是一个开源部署工具，旨在让用户无需拥有 Mac Mini 也能免费在 HuggingFace Spaces 上运行 OpenClaw。它★ 54
Serving-Machine-Learning-Models这是一个专注于机器学习模型服务与部署的教学型仓库，提供了使用 Docker、Flask、FastAPI、BentoML、Streamlit、MLflow 等多种★ 53