inferencedb

把实时模型推理结果一键流入数据湖,方便后续分析

inferencedb 是一个实验性的开源基础设施项目,旨在将生产环境中实时机器学习模型的推理结果流式传输到任意数据湖。它解决了模型推理数据难以统一收集、存储和分析的问题,为 MLOps 提供数据管道支持。核心能力包括:与主流 ML 模型服务框架集成,捕获推理请求和响应;支持将数据写入多种数据湖格式(如 Delta Lake、Iceberg 等);提供轻量级部署方式,便于在现有生产环境快速接入。项目处于早期阶段,API 和功能可能不稳定,但为实时推理数据的可观测性和离线分析提供了新思路。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 81
维护状态 低维护
是否开源
定价模式 free

项目数据

分类基础设施
开发团队aporia-ai
所属国家
官网地址
定价模式free
价格说明开源项目,可自行部署,无收费信息。
访问状态
是否开源
开源协议NOASSERTION
主要语言Python
技术栈/模型kafka,machine-learning,mlops,model-monitoring,model-serving,s3
GitHub 星标★ 81
30天Star增速
HF 下载量
上线时间2022-02-09 00:00:00
最近更新2025-12-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 专注实时推理数据流,解决MLOps中数据收集痛点
  • 支持多种数据湖格式,适配现有数据架构
  • 实验性项目,设计灵活,易于扩展新功能

不足之处

  • 项目处于实验阶段,文档和社区生态待观察
  • 功能覆盖有限,可能缺少生产级容错和监控机制

适用场景

  • ML模型上线后,统一收集推理日志用于监控和审计
  • 将推理数据与业务数据融合,进行离线特征分析和模型迭代
  • 在数据湖中构建实时推理数据仓库,支持BI报表

替代项目

Kubeflow Pipelines、MLflow、Feast

项目介绍

inferencedb 是基础设施领域的开源项目,由 aporia-ai 开发,2022 年首次发布。

它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 81。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2025-12-22。可自行部署,无收费信息。

它主要面向的使用场景是:ML模型上线后,统一收集推理日志用于监控和审计。同类可对比的替代方案包括 Kubeflow Pipelines、MLflow、Feast。

上一篇:mlops-project

下一篇:FAI-Model

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09