BharatMLStack
一套打通训练到推理的 ML 基础设施，让大规模模型上线更稳更快。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 716
使用教程
⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
环境要求
- Docker
- Kubernetes（生产）
- 对象存储
安装与启动步骤
-
1克隆
先拉代码。
git clone https://github.com/Meesho/BharatMLStack.git -
2起服务
仓库带一键启动脚本。
./start.sh -
3看组件
特征服务与向量检索各自独立。
# 打开各组件的健康检查地址 -
4接业务
按接口文档接入自己的数据。
# 参考各组件的 API 文档
如何确认成功
特征服务能返回按实体查到的特征值。
注意事项
- 组件多，先只起一个跑通。
- 生产部署依赖编排环境，单机只适合验证。
核心亮点
- 端到端覆盖：从特征工程到模型监控，提供完整 ML 流水线组件，减少集成成本。
- 高并发设计：基于 Go 语言构建，适合处理大规模实时推理请求，性能潜力大。
- 生产级实践：源自 Meesho 内部实际场景，解决真实业务痛点，具备参考价值。
不足之处
- 文档/社区待观察：项目早期，文档和社区生态尚不成熟，上手可能需要更多摸索。
- 依赖特定场景：针对印度电商规模优化，通用性可能受限，需评估适配成本。
适用场景
- 电商平台实时推荐系统，需要低延迟特征与模型服务。
- 大规模批量训练与离线预测，统一管理特征和模型版本。
- 构建内部 ML 平台，统一多团队模型部署与监控流程。
替代项目
Kubeflow、Seldon Core、Feast
上一篇：modelstore
同类项目推荐
aisimulate
开源
不占 GPU 也能预测大模型服务性能并搜配置
AISimulate predicts LLM serving behavior and searches for strong deployment configur···
kronotop
开源
用 FoundationDB 撑起的强一致文档库，还带 AI 记忆检索
Distributed, transactional document database backed by FoundationDB.
ollama-intel-arc
开源
让 Intel Arc 显卡跑起 Ollama 和 Stable Diffusion，一键部署 AI 全栈。
Make use of Intel Arc Series GPU to Run Ollama, StableDiffusion, Whisper and Open We···
otari
开源
自建一个端点，管好所有大模型密钥和预算
Open-source AI gateway you run yourself. One endpoint for 40+ providers, with virtua···
tt-metal
开源
用 Tenstorrent 硬件跑 AI 模型，底层算子与内核编程一手掌控
:metal: TT-NN operator library, and TT-Metalium low level kernel programming model.
dify-google-cloud-terraform
开源
在 Google Cloud 上快速部署生产级 Dify，自动搞定高可用和弹性伸缩。
Terraform configuration for deploying Dify on Google Cloud with scalability, high av···
vllm-omni
开源
一套框架通吃文本图像视频，换模型不用再重搭环境。
A framework for efficient model inference with omni-modality models
lilypad
开源
用区块链调度全球闲置 GPU，跑 AI 任务更便宜透明
Run AI workloads easily in a decentralized GPU network. https://www.youtube.com/wat···
inferencedb
开源
把实时模型推理结果一键流入数据湖，方便后续分析
Stream inferences of real-time ML models in production to any data lake (Experimenta···