benchmarks

跑分选型,用数据说话,避免MLOps工具踩坑。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 4 🐛 待处理 18 👀 关注 10
GitHub ↗
GitHub 星标 ★ 143
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT 许可证,完全免费,无付费版本。

项目预览

benchmarks 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队premAI-io
定价模式🏷️完全免费
价格说明开源项目,MIT 许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Shell
技术栈/模型ai,benchmarks,inference-engines,latency,llmops,mlops,performances
GitHub 星标★ 143
上线时间2023-10-02 00:00:00
代码更新2024-07-25
仓库体积2.3 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

这是一个用于主流AI模型上MLOps引擎、框架和语言性能对比的基准测试项目。它通过统一的测试脚本和标准化流程,对不同的MLOps工具链(如模型服务引擎、训练框架、推理语言等)进行性能基准测试,并提供可复现的对比结果。项目主要解决MLOps选型时缺乏客观性能数据的问题,帮助开发者根据实际模型和场景选择最优的工具组合。核心能力包括:支持主流AI模型(如Transformer、CNN等)、自动化基准测试脚本、结果可视化与报告生成。项目使用Shell脚本编写,易于扩展和集成到CI/CD流程中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 143

技术标签

核心亮点

  • 覆盖主流AI模型,测试结果贴近真实业务场景
  • 自动化基准测试脚本,一键运行,结果可复现
  • 支持多引擎/框架/语言对比,选型决策更客观

不足之处

  • 项目处于早期阶段,测试场景和模型覆盖有限
  • 文档和社区支持待观察,上手可能需要自行摸索

适用场景

  • 技术选型时对比不同MLOps工具的性能
  • 优化现有模型推理性能,定位瓶颈
  • 在团队内部建立性能基准基线

替代项目

MLPerf、FAI-PEP、AIBench

上一篇:uptrain

下一篇:aegis

同类项目推荐

sample-agent-cost-bench 开源

横向评测编程代理的成本、质量与耗时

Benchmark framework that measures cost, quality, and duration of coding agents acros···

★ 109 2026-10-27
eva 开源

给肿瘤AI模型打分,让对比评测不再抓瞎

Evaluation framework for oncology foundation models (FMs)

★ 175 2026-08-09
agent-audit 开源

给 AI 智能体做安全体检,防提示注入和配置漏洞

Static security scanner for LLM agents — prompt injection, MCP config auditing, tai···

★ 244 2026-08-09
WorldLens 开源

给自动驾驶世界模型做全科体检,从生成到重建一测到底

[CVPR 2026 Oral] WorldLens: Full-Spectrum Evaluations of Driving World Models in Rea···

★ 258 2026-08-09
guardrails 开源

给大模型输出装上安全阀,让生产更可靠

Adding guardrails to large language models.

★ 7587 2026-08-09
AgentGuard 开源

给 AI Agent 装上零信任安全闸门,防越权、防泄露

AgentGuard: Zero-Trust Security Foundation for AI Agents

★ 159 2026-08-22
next-evals-oss 开源

给 AI 出 Next.js 考题,看它到底会不会写

Evals for Next.js up to 15.5.6 to test AI model competency at Next.js

★ 329 2026-09-14
Video-Bench 开源

用AI自动给视频生成模型打分,快速比出谁更强

Video Generation Benchmark

★ 82 2026-08-09
Jailbreak-Foundry 开源

把越狱论文变成可跑的攻击测试,实时更新基准

A system that turns jailbreak papers into runnable attacks and benchmarks — live, a···

★ 174 2026-08-10