inferencedb 是基础设施领域的开源项目,由 aporia-ai 开发,2022 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 81。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2025-12-22。可自行部署,无收费信息。
它主要面向的使用场景是:ML模型上线后,统一收集推理日志用于监控和审计。同类可对比的替代方案包括 Kubeflow Pipelines、MLflow、Feast。

把实时模型推理结果一键流入数据湖,方便后续分析
inferencedb 是一个实验性的开源基础设施项目,旨在将生产环境中实时机器学习模型的推理结果流式传输到任意数据湖。它解决了模型推理数据难以统一收集、存储和分析的问题,为 MLOps 提供数据管道支持。核心能力包括:与主流 ML 模型服务框架集成,捕获推理请求和响应;支持将数据写入多种数据湖格式(如 Delta Lake、Iceberg 等);提供轻量级部署方式,便于在现有生产环境快速接入。项目处于早期阶段,API 和功能可能不稳定,但为实时推理数据的可观测性和离线分析提供了新思路。
Kubeflow Pipelines、MLflow、Feast
inferencedb 是基础设施领域的开源项目,由 aporia-ai 开发,2022 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 81。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2025-12-22。可自行部署,无收费信息。
它主要面向的使用场景是:ML模型上线后,统一收集推理日志用于监控和审计。同类可对比的替代方案包括 Kubeflow Pipelines、MLflow、Feast。
上一篇:mlops-project
下一篇:FAI-Model
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···