模型训练

petals 开源

在家用 BitTorrent 方式跑大模型，推理微调快 10 倍

Petals 是一个去中心化的 LLM 推理与微调框架，采用 BitTorrent 风格的点对点网络，将大型语言模型···

MLOps 开源

跟着项目清单，动手练熟MLOps全流程

这是一个学习型仓库，作者在学习和实践MLOps过程中整理的项目清单。它并非一个完整的框架或工具，而···

zenbytes 开源

跟着 Notebook 一步步上手 ZenML，搞定 MLOps 流水线

zenbytes 是一个面向 MLOps 初学者的实践指南，基于 ZenML 及其生态集成，通过 Jupyter Notebook 形···

optimate 开源

给 AI 模型瘦身提速，部署更快更省资源

optimate 是一个专注于优化 AI 模型性能的 Python 库集合，旨在帮助开发者和研究人员在不改变模型结···

diffusion_distiller 开源

把扩散模型蒸馏成少步采样，生成速度提升数倍

diffusion_distiller 是一个基于 PyTorch 的扩散模型蒸馏工具，实现了论文《Progressive Distillat···

language-planner 开源

用大模型零样本生成任务规划，直接驱动具身智能体。

language-planner 是论文《Language Models as Zero-Shot Planners》的官方代码，旨在利用大型语言···

Awesome-Quantization-Papers 开源

一站式追踪神经网络量化前沿论文，快速掌握技术脉络。

这是一个精选神经网络量化相关论文的列表项目，持续跟踪AI顶会和期刊的最新研究成果。它系统整理了···

MLFlowClient.jl 开源

在 Julia 中轻松接入 MLflow，跟踪实验、管理模型

MLFlowClient.jl 是一个 Julia 语言的 MLflow 客户端库，旨在让 Julia 用户能够无缝集成 MLflow 的···

ColossalAI 开源

让大模型训练部署更便宜、更快速，普通硬件也能玩转AI大模型。

ColossalAI是一个旨在降低大型AI模型使用门槛的开源项目，专注于让大模型的训练、微调和推理更便宜···

mnist-mlops-learning 开源

用MNIST示例快速上手MLflow+FastAPI+Streamlit的MLOps全流程

这是一个用于学习MLOps实践的示例项目，基于MNIST手写数字识别任务，演示了如何将MLflow、Streamli···

CoOp 开源

自动学习提示词，让CLIP模型在少样本下精准分类

CoOp（Context Optimization）是一个针对视觉-语言模型（如CLIP）的提示学习（Prompt Learning）开···

quaterion 开源

几分钟搭好相似度模型训练，向量检索效果快速提升

Quaterion 是一个专注于相似度学习模型微调的 Python 框架，核心解决的是在检索、去重、聚类等场景···

Tutel 开源

让 MoE 大模型训练更快更省显存，支持 FP8/FP4 低精度。

Tutel 是微软开源的高性能混合专家（MoE）训练与推理优化库，核心目标是解决大规模 MoE 模型在分布···

vertex-ai-mlops 开源

照着做，就能在 Google Cloud 上跑通生产级 ML 流水线

vertex-ai-mlops 是 Google Cloud 官方提供的端到端机器学习运维（MLOps）参考实现，基于 Vertex A···

bitsandbytes 开源

把大模型塞进小显存，量化微调一条龙

bitsandbytes 是一个为 PyTorch 提供 k-bit 量化支持的开源库，旨在让大语言模型（LLM）的部署和微···

MLOps_Workshop 开源

用 Azure 全家桶，把机器学习模型从实验快速推到生产。

MLOps_Workshop 是一个面向 Azure 云平台的 MLOps 实践教程与脚手架项目，旨在帮助数据科学家和机器···

modelkit 开源

让 ML 模型开发到上线更省心

modelkit 是一个用于开发和维护机器学习模型的 Python 工具包，旨在简化 ML 模型的构建、测试、部署···

modelfox 开源

一条命令完成模型训练、部署和监控，告别复杂 ML 工程链

ModelFox 是一个用 Rust 编写的机器学习模型全生命周期管理工具，旨在简化从训练到部署再到监控的完···

mrmr 开源

高维数据下自动选特征，去冗余提精度

mRMR 是一个用于大规模自动特征选择的 Python 库，实现了最小冗余最大相关性（minimum-Redundancy-···

TextRL 开源

在任意 HuggingFace 模型上实现 RLHF 微调，让生成更符合人类偏好。

TextRL 是一个基于 Hugging Face Transformers 框架实现 ChatGPT RLHF（基于人类反馈的强化学习）的···

alpa 开源

写单机代码，自动跑超大模型分布式训练与推理

Alpa 是一个用于训练和服务大规模神经网络的计算框架，其核心目标是自动并行化。它解决了用户在分布···

examples 开源

看示例，快速上手 Neptune 实验管理

Neptune 是一个用于机器学习实验管理和 MLOps 的元数据存储库。这个名为 examples 的仓库是 Neptun···

azure-databricks-mlops-mlflow 开源

在 Azure Databricks 上快速搭建不依赖 MLflow Project 的 MLOps 流程

这是一个面向 Azure Databricks 平台的 MLOps 示例项目，专注于 Python 源码的机器学习生命周期管理···

tempo 开源

把训练好的模型一键打包部署，快速上线生产环境

tempo 是一个面向机器学习的 MLOps Python 库，旨在帮助数据科学家和工程师将训练好的模型快速部署···