inferencedb

把实时模型推理结果一键流入数据湖,方便后续分析

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 3 👀 关注 3
GitHub ↗
GitHub 星标 ★ 82
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,可自行部署,无收费信息。

项目预览

inferencedb 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队aporia-ai
定价模式🏷️完全免费
价格说明开源项目,可自行部署,无收费信息。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型kafka,machine-learning,mlops,model-monitoring,model-serving,s3
GitHub 星标★ 82
上线时间2022-02-09 00:00:00
代码更新2022-06-10
仓库体积257 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

inferencedb 是一个实验性的开源基础设施项目,旨在将生产环境中实时机器学习模型的推理结果流式传输到任意数据湖。它解决了模型推理数据难以统一收集、存储和分析的问题,为 MLOps 提供数据管道支持。核心能力包括:与主流 ML 模型服务框架集成,捕获推理请求和响应;支持将数据写入多种数据湖格式(如 Delta Lake、Iceberg 等);提供轻量级部署方式,便于在现有生产环境快速接入。项目处于早期阶段,API 和功能可能不稳定,但为实时推理数据的可观测性和离线分析提供了新思路。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 82

核心亮点

  • 专注实时推理数据流,解决MLOps中数据收集痛点
  • 支持多种数据湖格式,适配现有数据架构
  • 实验性项目,设计灵活,易于扩展新功能

不足之处

  • 项目处于实验阶段,文档和社区生态待观察
  • 功能覆盖有限,可能缺少生产级容错和监控机制

适用场景

  • ML模型上线后,统一收集推理日志用于监控和审计
  • 将推理数据与业务数据融合,进行离线特征分析和模型迭代
  • 在数据湖中构建实时推理数据仓库,支持BI报表

替代项目

Kubeflow Pipelines、MLflow、Feast

上一篇:mlops-project

下一篇:FAI-Model

同类项目推荐

sacremoses 开源

Moses 文本预处理工具一键迁移到 Python,让分词大小写规范化不再愁

Python port of Moses tokenizer, truecaser and normalizer

★ 497 2026-09-08
tunnel-client 开源

把本地 MCP 服务安全连到 ChatGPT 等 AI 工具,无需公网暴露

Customer-run client for Secure MCP Tunnel: connect private or localhost MCP servers ···

★ 621 2026-08-09
respan-gateway 开源

一个端点接入所有大模型,单二进制即开即用

Open-source LLM gateway in Rust. One endpoint for OpenAI, Anthropic, Gemini and ever···

★ 610 2026-10-30
omlx 开源

Mac 菜单栏一键跑大模型,SSD 缓存突破内存限制,连续批处理提速

LLM inference server with continuous batching & SSD caching for Apple Silicon — man···

★ 23449 2026-08-09
portkey-python-sdk 开源

一键接入多模型,让 AI 应用稳定又安全

Build reliable, secure, and production-ready AI apps easily.

★ 119 2026-08-09
evidently 开源

一站式监控 ML 和 LLM,100+ 指标防模型退化

Evidently is ​​an open-source ML and LLM observability framework. Evaluate, test, ···

★ 8047 2026-08-09
traceAI 开源

给 AI 应用装上监控,追踪调用链和成本

Open Source AI Tracing Framework built on Opentelemetry for AI Applications and Fram···

★ 266 2026-08-09
Awesome-MLOPS 开源

一份清单,从零入门到精通 MLOps 全流程。

All the available resources to master MLOPS from scratch

★ 383 2026-08-09