budgetml

10 行代码搞定低预算 ML 推理服务，省钱省心

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 65 🐛 待处理 4 👀 关注 23
GitHub ↗
GitHub 星标 ★ 1344
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，可自行部署，完全免费。

项目预览

budgetml 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队ebhy
GitHubhttps://github.com/ebhy/budgetml
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，可自行部署，完全免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型api,data-science,deployment,fastapi,inference,machine-learning,mlops
GitHub 星标★ 1344
上线时间2020-12-27 00:00:00
代码更新2024-02-12
仓库体积1.3 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

budgetml 是一个面向预算有限场景的机器学习推理服务部署工具，旨在让开发者用不到 10 行代码就能将模型部署为可用的推理服务。它解决了传统 ML 部署中配置复杂、成本高昂的问题，通过极简的 API 封装了服务启动、请求处理和资源管理，让用户专注于模型本身而非基础设施。核心能力包括：自动选择适合 CPU 的轻量级推理框架（如 ONNX Runtime）、内置 HTTP 服务与健康检查、支持多种模型格式导入、提供简单的并发与批处理优化，以及可选的 Docker 镜像打包。项目采用 Python 编写，强调易用性和低资源占用，适合个人开发者、小团队或原型验证阶段快速上线模型服务。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1344

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门 约 5 分钟 部署方式：库/依赖 3 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

  • 已安装 Python 环境（README 未指定具体版本）
  • 可用的 pip 包管理工具
  • 已准备好待部署的模型及对应的 Predictor 类（README Quickstart 引用 from predictor import Predictor）

安装与启动步骤

  1. 1安装 budgetml

    README 推荐方式：从 PyPI 直接安装到当前环境，这是官方给出的标准安装途径。

    pip install budgetml

  2. 2可选：安装开发版

    如需最新代码可安装 main 分支，README 提示风险自负、不作任何保证，一般用户不必执行。

    pip install git+https://github.com/ebhy/budgetml.git@main --upgrade

  3. 3编写入口脚本

    按 Quickstart 新建 deploy.py，导入 budgetml 并从自己的 predictor 模块引入 Predictor；README 未给出后续部署命令。

如何确认成功

可运行 python -c "import budgetml" 确认安装成功；README 未提供服务启动后的验证或健康检查方法。

常见问题

Q：这个项目还在维护吗？

A：README 顶部明确提示该库已不再积极维护，正在寻找愿意接手更新的人，使用前请评估风险。

Q：必须用 Docker、SSL 或 Uvicorn 吗？

A：README 的出发点就是让使用者不必学习 SSL、Docker、REST、Uvicorn/Gunicorn 等概念，但未给出具体部署命令。

Q：适合直接上生产环境吗？

A：README 说明它并非面向完整生产级场景，只是以最快速度把服务跑起来，适合原型与快速验证。

Q：安装开发版有什么风险？

A：README 原文提示“风险自负、不作任何保证”，因此优先使用 PyPI 稳定版。

注意事项

  • 项目已被作者标记为不再积极维护，长期使用需谨慎。
  • README 的 Quickstart 示例被截断，只出现 import budgetml 与 from predictor import Predictor，完整用法请查看仓库 docs 目录。
  • README 未提供端口、配置文件、环境变量等信息，不要自行假设这些参数。

核心亮点

  • 极简 API，10 行内完成部署，学习成本极低
  • 自动优化 CPU 推理性能，无需 GPU 也能跑
  • 内置服务与健康检查，开箱即用

不足之处

  • 主要面向 CPU 推理，对大规模 GPU 场景支持有限
  • 文档和社区生态尚在早期，可参考案例不多

适用场景

  • 个人开发者快速上线模型 API 供前端调用
  • 初创团队在云主机上低成本部署推荐或分类模型
  • 原型验证阶段快速测试模型效果，无需复杂运维

替代项目

BentoML、Ray Serve、MLflow Models

上一篇：bentoctl

下一篇：awesome-sagemaker

同类项目推荐

seatunnel 开源

一条管道搞定海量数据同步，多源异构实时入仓

SeaTunnel is a multimodal, high-performance, distributed, massive data integration t···

★ 9795 2026-08-09
airweave 开源

各种数据源一次接好，智能体随时有料可查

Open-source context retrieval layer for AI agents

★ 6544 2026-08-09
C-SSH 开源

跨平台 SSH 运维，持久会话+AI 助手，免费开源

C-SSH 0.9.7 · Windows / macOS / Linux / Android · SSH, RDP, concurrent AI, server ···

★ 187 2026-08-09
client 开源

官方多语言客户端，让应用直接调用 Triton 推理服务

Triton Python, C++ and Java client libraries, and GRPC-generated client examples for···

★ 703 2026-11-08
taladb 开源

把向量检索和文档库塞进 App 本地跑

TalaDB - An open-source embedded vector and document database for building local-fir···

★ 58 2026-11-02
ContextPilot 开源

长上下文推理瘦身，不丢精度还更快

Accelerating Long Context LLM Inference with Accuracy-Preserving Context Optimizatio···

★ 146 2026-10-02
ChannelMonitor 开源

定时自动测试渠道模型，故障秒级标记，减少 API 报错

Channel Monitor 是一个用于监控OneAPI/NewAPI/OneHub渠道的工具，它直接读取channels和ab···

★ 291 2026-08-09
awesome-mlops 开源

一站式查遍 MLOps 工具，选型不再愁

A curated list of references for MLOps

★ 14291 2026-08-09
Bailo 开源

一站式管理 ML 模型全生命周期，让模型资产安全共享、合规可溯。

Managing the lifecycle of machine learning to support scalability, impact, collabora···

★ 96 2026-08-09